vllm-project/vllm

修复 ROCm 多流性能问题及 rocprofiler 崩溃，更新 ROCR+CLR 运行时并移除测试变通方案。

本 PR 值得精读，尤其是对于关注 ROCm 支持、性能优化和 CI/稳定性的团队。它不仅仅是一个简单的依赖更新，而是涉及构建流程优化、上游关键修复集成和测试代码清理的系统性改进。其设计决策（如构建阶段重排）反映了对构建系统效率和长期维护的深思熟虑。建议重点关注： 1. Docker 构建阶段重排背后的推理，这可以作为优化多阶段 Docker 构建的范例。 2. 如何系统地追踪和解决由外部库（ROCm 运行时、rocprofiler）引起的问题，并通过上游协作最终移除代码中的变通方案。 3. 多流性能改进的具体补丁内容（可通过 PR body 中链接的上游 PR 了解），这对理解 ROCm 性能调优有参考价值。

修复 DeepSeek V4/V3.2 工具解析器在模型省略启动包装器时泄漏原始 DSML 文本的问题。

此 PR 值得精读，因为它修复了一个影响用户生产环境的 bug，并展示了如何通过扩展状态机来优雅地处理模型输出的不确定性。其测试策略非常全面，涵盖了多种边界情况，为类似问题的解决提供了良好范例。

为 NVFP4 量化模型新增基于 PyTorch 原生 torch._scaled_mm 的线性层后端，专为 Blackwell GPU 优化。

此 PR 值得精读，特别是对于关注 Blackwell GPU 优化、NVFP4 量化内核实现或 vLLM 线性层后端架构的工程师。其设计清晰地复用了现有基础设施，并提供了详实的性能和正确性验证。关键的设计决策在于如何将 PyTorch 原生 API 无缝集成到 vLLM 的内核分发体系中，以及权重预处理和激活量化的具体实现，这些都值得学习和借鉴。

扩展 GPU<->CPU 同步检测，通过 monkeypatch 捕获非阻塞分页拷贝中的隐式同步。

此 PR 为性能调试工具带来了有价值的改进。其核心逻辑（`gpu_sync_debug.py` 中的新函数和包装器）设计清晰，测试覆盖全面，有效地区分了隐式同步和真正的异步传输。尽管涉及全局 monkeypatch，但在精心设计的作用域控制和显式豁免机制下，风险可控。建议性能工程师和关注推理延迟的开发者关注此变更，以便更好地利用同步检查功能。

为 NVFP4 量化模型启用 FlashInfer 加法 RMSNorm 融合内核，减少内核启动次数并提升性能。

这是一个有价值的功能性改进，值得关注。它展示了如何将外部优化的内核（FlashInfer）通过模式匹配和算子封装，无缝集成到 vllm 的编译器优化流水线中。对于关注 NVFP4 量化模型性能优化，或对 torch.compile 融合 pass 设计模式感兴趣的工程师，建议精读 `vllm/compilation/passes/fusion/rms_quant_fusion.py` 中的 `FusedAddRMSNormNvfp4QuantPattern` 类及其注册逻辑，以及 `fix_functionalization.py` 中对应的功能化处理。

修复 DSpark 在 DCP 场景下因丢失并行配置而导致的启动崩溃。

本 PR 是一个针对特定启动崩溃的快速、低风险修复，其核心逻辑清晰。建议关注评论中提出的边界情况（`draft TP=1, target DCP>1`），虽然作者已将其归为未来 RFC 的范畴，但了解这一限制对后续工作至关重要。对于正在使用 DSpark 和 DCP 的团队，这是一个必须合入的修复。对于一般开发者，此 PR 展示了在复杂并行配置中进行精确补丁的思路。

修复 OpenPanguVL 模型多模态嵌入合并方法的过时调用签名。

此 PR 值得精读，尤其是在多模态模型如何集成嵌入到语言模型的实现模式上。它展示了如何修复一个因接口演进而导致的内部契约不一致问题。关注点包括：1. 新的 `get_input_embeddings` 实现如何构建掩码并委托给统一接口，这是一个清晰的模式。2. 新增的单元测试如何通过模拟和参数化高效地验证多模态嵌入合并逻辑。建议团队考虑对其他多模态模型执行类似的接口合规性审查。

修复 MRV2 草稿模型忽略用户指定 MoE 后端导致启动失败的问题。