vllm-project/vllm

修复显式 moe_wna16 量化标志下线性层权重加载失败的 bug。

这是一个清晰、范围明确的 bugfix PR，修复了重要的数据契约问题。建议精读 `moe_wna16.py` 中 `get_quant_method` 的改动，理解配置传递如何解决融合层解析问题。对于关注量化或 XPU 支持的工程师，此 PR 提供了关于配置层次和平台集成的良好示例。

修复 MTP/EAGLE 推理下 OffloadingConnector 的零命中回归，确保 CPU 卸载缓存能正确服务 KV。

该 PR 非常值得精读。它不仅修复了一个影响面广且隐蔽的性能 bug，其分析过程、根因分解和多方独立硬件验证也堪称典范。三个独立缺陷的组合修复逻辑清晰，测试设计周密，特别是针对混合模型的回归测试。对于从事 KV 缓存管理、推理优化或分布式系统的工程师，该 PR 提供了关于复杂状态管理和边界条件处理的重要洞察。建议关注 `storable_chunks` 中完成状态对存储排除的提升逻辑，以及 `_lookup_complete_chunks` 中跨组粒度交互的细节。

为 QSA 索引器新增 FP8 e4m3 缓存支持，提升 Prefill 和 Decode 性能。

本 PR 是一个高质量的性能特性增强，具有详尽的基准测试和针对性的测试覆盖。建议技术专家重点审查 `qsa_indexer.py` 中 Triton 内核的动态配置逻辑以及 `assert_fp8_within_one_ulp` 的鲁棒性。对于追求极致吞吐的用户，这是一个非常值得关注的特性。

将 OLMo 2 模型添加到批量不变性测试文档的模型列表中。

本 PR 是一个典型的、低风险的文档补充，非常值得合并。对于维护者或贡献者而言，它展示了如何响应社区 Issue 中的模型验证请求。对于普通读者，此 PR 本身无需精读，但其关联的 Issue #27433 和批量不变性功能文档 `docs/features/batch_invariance.md` 值得关注，以了解该功能的覆盖范围和演进。

为 DeepSeek V4 XPU 模型添加 LoRA 支持，移植 NVIDIA 实现并适配权重加载逻辑。

本 PR 是一个有价值的功能移植，确保了平台间功能的一致性。实现逻辑清晰，与 NVIDIA 版本对应。主要关注点在于缺乏仓库内测试覆盖。建议在后续工作中，为 DeepSeek V4 + LoRA 场景补充针对 XPU 平台的单元测试或集成测试，以降低长期维护风险。对于熟悉 PR#53361 的读者，本 PR 值得快速浏览以了解移植要点；否则，由于改动模式固定（移植已有实现），精读优先级中等。

为 XPU 平台启用融合 grouped_topk 内核，修复 torch.compile 图断裂，提升 MoE 模型推理性能。

此 PR 值得精读。它不仅是简单的平台适配，更包含了一个有价值的修复——为融合内核注册 fake 实现以解决 torch.compile 图断裂问题，这对 CUDA 平台同样有益。代码改动小而精准，性能收益明确。建议关注 `vllm/_custom_ops.py` 中 fake 实现的实现细节，理解其在编译器工作流中的作用。对于负责 XPU 适配或 MoE 模型优化的工程师，这是一个重要的参考案例。

将 Responses API 验证错误从 ValueError 迁移到 VLLMValidationError，修复 param=None 问题。

该 PR 是一个直接、低风险的 bugfix，完成了上一次重构的收尾工作。它修复了用户体验问题，并提升了 API 的一致性。值得精读，以理解错误处理模式的迁移。

为 ROCm AITER 稀疏 MLA 添加注意力 sink 支持，新增 LSE 解码算子和完整的回退/验证路径。

该 PR 是一个重要且高质量的贡献，解决了 ROCm 平台上的一个关键功能缺失。建议： 1. **值得精读**：对于关注 ROCm 支持、注意力机制实现或 AITER 库集成的工程师，该 PR 值得仔细阅读，特别是 `_forward_mla` 中的路径选择逻辑和 `_rocm_aiter_mla_decode_fwd_lse_impl` 中的硬件特定处理。 2. **关注设计决策**：作者在 `backend.py` 中引入 `supports_dcp()` 检查是一个有意义的架构改进，尽管可能产生意外后果。建议关注后续的默认值调整 PR。 3. **评估测试质量**：测试套件非常全面，使用了双精度参考和精度预算来验证数值正确性，这种做法值得在其他地方推广。 4. **注意后续工作**：该 PR 包含一些技术债务（如代码重构建议）和临时措施（如跳过的测试），需要关注后续的清理工作。