vllm-project/vllm

Cohere2Moe 推理时增加 Command A+ 结构标签支持

该 PR 改动简单直接，逻辑清晰，无需精读。但可以作为 Cohere 系列模型结构标签配置的参考示例。

将 DSV4 attention_impl 中的 GEMM 提前至 eager break 前

该 PR 值得精读，尤其是了解如何通过重新组织计算流来最大化 cudagraph 覆盖率。设计上将被动的 eager break 范围最小化，主动将 metadata-independent 的计算提前，是一种典型的性能优化模式。建议在类似场景（如其他 model 的 attention 实现）中推广。

为 CpuPlatform 补充 mem_get_info，修复 gemma4 CPU 崩溃

本 PR 虽然代码量小，但展示了一个很好的设计决策过程：从临时“补丁”到根本修复的转变。对于理解 vLLM 平台抽象层（Platform 类体系）以及如何优雅地处理平台差异，这是一个值得学习的小案例。建议平台层相关开发者阅览。

统一 KV cache scale 加载，移除模型代码重复

建议合并。该 PR 设计清晰，自解释性强，是典型的“移除重复、统一入口”重构。值得关注的决策：通过 `WeightsMapper` 的 `|` 操作符合并多个映射规则，以及使用 `KVCacheScaleParameter` 作为标量的唯一容器。测试覆盖方面，由于删除了一些 Mock 测试，建议补充端到端集成测试（如加载含 KV scale 的 FP8 checkpoint）。

修复 FP64 Gumbel 精度未覆盖 V1 采样路径

值得精读，尤其是 `topk_topp_sampler.py` 中的辅助函数设计和 `sample_with_exponential_noise` 的 dtype 处理逻辑。本 PR 展示了如何系统地修复一个隐藏的精度 bug，并在多个采样路径中保证一致性。对于关注采样精度和公平性的开发者具有参考价值。

Rust前端批量合并自动中止请求，减少IPC往返

本PR展示了如何用`recv_many`实现批量消费，并保持原有非活跃过滤和日志行为，是异步消息批量化处理的典范。值得有类似需求的工程师阅读。

修复文档中 tokenizer 优化说明的拼写错误

此 PR 无需精读，属于常规文档维护。

发起 NixlConnector 中 kv_both 角色的弃用流程

值得阅读。此 PR 演示了大型项目中如何设计嵌套配置的弃用周期：先软弃用（警告 + 文档/测试更新），后续再硬移除。对于 NixlConnector 的用户，应尽快将配置从 kv_both 改为 kv_producer 或 kv_consumer，以免被未来阶段破坏。