vllm-project/vllm

修复 Cohere2MoE 在 Transformers >=5.10 下的权重加载

值得精读并合入。变更逻辑清晰，影响范围小，修复了对上游库版本变化的关键依赖。建议后续补加单元测试，验证不同 `first_k_dense_replace` / `mlp_layer_types` 组合下的行为。

修复 PD 模式下 HMA 的 KV 缓存共享崩溃

值得精读和 merge，修复明确且测试完善。对于维护者，可作为 PD 连接器中处理 KV cache 共享的标准参考模式。

支持 Kimi K2 模型生成的 tool call ID

值得精读。设计上通过 trait 方法提供扩展点，替代硬编码 ID 生成，体现了开闭原则。review 中 BugenZhao 建议启用 roundtrip 测试，是验证变更正确性的好实践。对需要为其他模型定制 tool call ID 的开发者具有参考价值。

优化 XPU Docker 镜像大小与锁机制

推荐给关注 CI 基础设施和 Docker 优化的团队阅读，特别是多阶段构建和锁机制的实践。

为 Rust 前端添加 /tokenize 和 /detokenize 端点

该 PR 设计合理，代码质量较高，与 Python 端行为逐项对齐。推荐作为 Rust 前端功能完善的参考实现进行精读，特别是设计模式：使用 untagged 枚举区分请求变体、共享验证函数、复用工件进行模板渲染而不提交引擎。安全性问题（SSTI/SSRF）应在后续全局修复，建议追踪 issue。

融合 AR+RMSNorm+per-group FP8 量化为单一 AITER 内核

值得精读，尤其是对 ROCm 编译优化感兴趣的读者。 - 关注点：如何通过 `VllmPatternReplacement` 处理多 consumer 扇形输出，使用 `emit_bf16` 复用 fused op 输出。 - 讨论中关于 `MatcherQuantFP8` 的演进和使用方式值得借鉴。 - 该 PR 是持续优化的一个环节，展示了 vLLM 编译 fusion pass 的扩展性。

KV 事件序列化格式从数组切换为 Map 编码

该 PR 是长期架构上的正确改进，值得所有外部消费者关注并同步更新。设计决策（保留 EventBatch、一次性 break）可避免技术债累积。建议精读 PR body 的性能基准和讨论中的兼容性权衡。

为 Qwen3-Next-80B 调优 FP8 MoE 内核配置

值得精读，展示了 vLLM 中针对特定模型-硬件组合进行内核调优的标准流程，以及如何利用 JSON 配置机制实现高效、安全的调优集成。