vllm-project/vllm

修复gfx950上RMSNorm+FP8融合，延迟降3.3%

值得精读该PR，尤其是`matcher_utils.py`的修正和`DoubleAiterRMSFp8GroupQuantPattern`的声明式模式实现。它展示了从手动FX图变换到声明式模式匹配的演进思路，以及view-tolerant变体处理实际生产图中常见噪声的经验。设计决策（重复rms_norm而非保留未融合的16位读取）也有借鉴意义。建议在撰写自定义编译pass时参考此模式。

修复 DeepGEMM SiLU/mul FP8 内核 int32 溢出

建议精读该 PR，了解 Triton kernel 中 int32 溢出的典型模式及修复方式，可作为后续类似问题的参考。

为 Apple Silicon 添加 vLLM-Metal GPU 文档

此 PR 是用户体验文档改进，值得了解以在文档中推广新平台。对于关注非 NVIDIA 平台支持的读者可精读；否则只作参考。

添加 FIPS 合规文档说明

值得阅读该新增章节，尤其是需要在 FIPS 启用主机上部署 vLLM 的团队。文档结构清晰，配置说明具体，可快速参考。

修复 MTP 模式下 CPU mirror 的 computed tokens 发散问题

建议精读 `update_requests` 和 `is_prefilling` 的改动逻辑，理解 computed tokens 状态同步方式；可关注后续是否添加性能优化。

用 Triton 为 ROCm DeepSeekV4 稀疏 MLA 加速

该 PR 值得精读，尤其是新增的 Triton kernel 实现和 ROCm backend 集成方式。设计决策中，将 platform-specific 逻辑从 model layer 下沉到 backend 选择是良好的分离。但需关注 review 中提出的正确性风险是否在合并前解决。

使用 Cutlass FP8 实现批量不变性，延迟降低 28.9%

该 PR 值得精读，尤其关注：1）如何通过固定 CUTLASS 配置实现 batch invariance 并保持正确性；2）FP8 线性层 `apply` 的分支设计兼顾性能与回退。对使用 FP8 批处理推理的团队有直接影响。

修复 Kimi K2.6 mm_projector 输入 dtype 不匹配崩溃

建议精读该 PR，了解多模态模型中自定义 forward 函数与 batch invariance 交互时可能的 dtype 问题。设计上，从 projector 的权重 dtype 推断预期输入 dtype 是合理做法，但可考虑更通用的契约（如所有涉及预处理的函数都显式转换）。