vllm-project/vllm

修复 Docker 依赖图 pre-commit 错误

该 PR 为基础设施维护，无需精读，但值得注意其对 CI 稳定性的保障。

修复 MXFP4 W4A16 在 AITER 新版本上的准确率归零

建议阅读者关注本次 PR 中 gate_mode 与权重 shuffle 一致性的设计，以及通过 `inspect.signature` 实现运行时兼容性探测的工程技巧。该修复是 AITER 版本演进中保持兼容性的好例子。

支持 mllama4 视觉编码器全 CUDA 图

推荐深入阅读 `mllama4.py` 中的接口实现，尤其是 `get_encoder_cudagraph_budget_range` 和 `get_encoder_cudagraph_item_specs` 的设计逻辑。Review 中关于接口合并和性能建议的讨论值得关注。如果团队计划支持更多多模态模型的 CUDA 图，此 PR 是很好的学习范例。

为 vLLM 添加 DiffusionGemma 离散扩散模型支持

- **值得精读**：`diffusion_gemma.py` 中的混合因果注意力实现和 `DiffusionGemmaSampler` 是理解扩散推理的核心。 - **关注设计决策**：复用推测解码数据路径度量（`metrics.py`）是一种可复用的工程模式，适用于其他非自回归模型。 - **参考价值**：gemma4 工具解析器的批量 token 处理增强，对处理多 token 发射的流式场景有借鉴意义。

修复 ROCm 上 FP8 MOE 测试的 dtype 硬编码

该 PR 是典型的平台兼容性修复，值得 ROCm 开发者关注其模式：使用 `current_platform.fp8_dtype()` 替代硬编码的 dtype。对于其他测试中的类似硬编码问题，可参考此模式进行修复。

逐区域分类 KV 传输，支持 FA + MLA 混合分组

此 PR 值得所有关注 vLLM KV 传输层和 NIXL connector 的工程师精读。关键设计决策——将 per-region 分类从全局分支中分离——是一个清晰的模式。review 中关于 RFC #42082 的讨论揭示了团队对长期架构与短期快速实现之间权衡的思考，值得借鉴。

Marlin 内核迁移至 stable ABI

值得精读，特别是 `marlin_int4_fp8_preprocess.cu` 中的 stream 修复示例，展示迁移过程中的正确性改进；`torch_bindings.cpp` 的算子注册模式可作其他内核迁移参考。

新增长音频 ASR 基准测试与正确性测试

值得阅读。该 PR 展示了如何为多模态任务设计轻量级基准数据集，并围绕数据集异构性构建弹性加载逻辑。其中的 `load_data` 多分支设计和 `send_audio_file` 抽象可以作为类似场景的参考模式。维护者应关注安全评论中提到的路径验证建议，考虑在后续 PR 中加固。