vllm-project/vllm

在AMD ROCm平台集成aiter GEMM内核，优化FP8推理性能。

建议工程师精读此PR，重点关注内核选择逻辑（如`can_implement`方法如何实现条件分发）以及权重处理流程。这对于理解ROCm平台性能优化和量化内核集成有重要参考价值。

修复概率拒绝采样器中num_sampled张量数据类型不匹配导致的Triton编译错误。

该PR值得快速浏览，重点关注数据类型一致性在GPU内核交互中的重要性。虽然变更简单，但揭示了在混合Python/Triton代码中类型匹配的常见陷阱，可作为类似问题的参考案例。

实现量化模型中注意力缩放权重的层间重载，修复标量权重计数问题。

该PR值得精读，特别是`layerwise.py`中的`_finalize_attention_layer`和`_reload_attention_scales`函数，展示了如何处理注意力层的独特重载逻辑和设计中的顺序权衡。关注点包括：设备放置逻辑的潜在问题、注意力层与线性层的处理顺序依赖，以及标量权重加载修复对计数机制的影響。

升级核心依赖Transformers至v5版本，启用对新模型架构的支持。

**强烈建议技术管理者和核心工程师精读此PR**。这不仅是依赖版本号的变动，更是一次涉及核心架构适配的系统性工程。重点关注： 1. **关键修复的设计决策**：仔细阅读`tokenizers/registry.py`中的`get_tokenizer`函数修改，理解其如何巧妙地解决Transformers v5带来的配置加载顺序问题，这是本次升级中最具洞察力的技术点之一。 2. **兼容性管理策略**：通过`tests/models/registry.py`学习团队如何系统性地管理大规模模型兼容性矩阵，利用版本约束和详细原因说明来优雅地降级非阻塞性失败。 3. **变更范围感知**：通过PR正文和修改的文件列表，全面了解哪些模块（模型加载、tokenizer、多模态处理、测试框架）受到了影响，便于后续的问题排查和功能开发。

修复Gemma 4预训练模型因缺失BOS标记导致的重复生成问题。

该PR值得精读，因为它展示了一个典型的模型特定修复案例：通过动态条件判断来区分模型变体（预训练 vs. 指令调优）的行为差异。关注点在于`has_chat_template`的检查逻辑如何优雅地解决双BOS与缺失BOS的权衡问题，这种模式可能适用于其他具有类似模板依赖的模型。

为Nemotron-v3 VL Nano/Super模型添加注册表条目和MTP支持。

该PR值得精读，特别是 `hf_config_override` 函数中的配置提升逻辑，展示了如何在多模态模型中处理推测解码支持；对于需要添加新模型别名的开发，可借鉴注册表和测试的联动模式。

修复NIXL连接器HMA测试中因GPU内存利用率设置过高导致的偶发性失败。

该PR变更简单直接，无需精读。对于工程师，可关注其作为解决CI不稳定性问题的范例：通过微调资源相关参数（如内存利用率）来适应测试环境波动，而非修改核心逻辑。

修复预编译安装时覆盖源码控制FlashAttention接口文件的问题。

该PR值得快速浏览，以了解vLLM构建系统中如何处理预编译安装与源码控制的协调。关注点在于`setup.py`中提取逻辑的设计决策：通过显式跳过集合而非修改正则表达式来排除文件，这提供了更清晰的维护路径。对于负责构建或CI的工程师，此变更展示了如何避免开发环境与预编译包之间的冲突。