vllm-project/vllm

改进 IBM Power 架构的 Docker 镜像构建，使用预构建 wheels 和 DevPI 索引

该 PR 对维护 IBM Power 支持的团队至关重要，建议精读以了解新的构建流程。重点关注安全讨论部分，考虑在后续迭代中采纳 bot 的建议（优化索引策略、移除运行时镜像中的 DevPI 配置）。对于非 ppc64le 平台的开发者，此 PR 影响较小，但可以借鉴其构建脚本化的思路。

修复异步调度下窗口外 KV 块提前释放的 bug

该 PR 是一个关键的正确性修复，建议团队根据长序列场景的性能回归考虑优化 admission 逻辑（如条件性宽松上线），并鼓励在此基础上进一步清理 MambaManager 中的局部修补代码。代码审查中 njhill 的简化 commit 值得学习，可作为跨模块参数传递设计的参考。

修复 MI250 设备名中含斜杠导致的路径错误

此 PR 值得精读，特别是其从局部修复演进为统一方案的过程，展示了如何通过 Reviewer 的引导构建更鲁棒的跨模块基础设施。建议关注 get_device_name_as_file_name 的设计（使用 re.sub 合并空白和斜杠）以及它在多个量化、MoE、Mamba 模块中的替换模式。

sentinel 机制实现 continue_final_message，解锁测试

值得关注其 sentinel 设计模式——不依赖模板感知就能实现参数效果，该思路可复用于其他类似 flag。但团队需了解此行为与 Transformers v5 对齐，未来升级模板时需保持一致。

为 AMD MI355 添加 selective_state_update 的 float32 调优配置

低风险、低复杂度的性能优化 PR，值得合并。对于使用 Mamba 模型且部署在 MI355 上的团队，建议关注此配置以提升推理性能。同时也建议其他 AMD GPU（MI300X 等）提交类似的调优配置。

修复 HY V3 路由器 expert_bias 精度塌陷

值得合并的低成本高价值修复。建议在团队内推广此类模式：所有参与权重加载和路由决策的参数应显式指定 fp32，避免默认 dtype 引入精度塌陷。

移除 DSv2 类模型路由器权重 FP32 上转型

建议合入。该 PR 是 Issue #47410 的合理后续优化，且经过作者数值验证。推荐关注后续可能对 BF16 MMA 累加精度的进一步改进。

为 MI300X 添加 fp32 的 selective_state_update 配置

值得合入。PR 小而明确，数据充分，验证完整，是 MI300X Mamba 性能优化的一个干净补丁。建议读者关注 SSM kernel 调优流程和配置生成脚本，未来可为其他 AMD GPU 补充类似配置。