vllm-project/vllm

修复 ROCm 上 fastsafetensors 的 CUDA-only PyPI 问题

该 PR 是紧急修复型变更，值得关注其后续演进。建议跟踪 Issue 评论中提到的上游 PR（foundation-model-stack/fastsafetensors#67 和 #68），待上游发布支持 ROCm 的通用 wheel 后，应恢复使用 PyPI 版本，以消除 git 依赖。

在XPU上跳过fp8e4b15格式，扩展TurboQuant测试到XPU平台。

建议阅读此PR以了解如何扩展平台抽象支持，特别是设备检测和格式选择的设计决策，适用于处理多平台兼容性场景。

为 MiMo-V2-Flash 模型添加推理和工具解析器映射，复用 Qwen3 实现。

该 PR 变更简单，适合快速浏览以了解模型支持扩展模式。值得关注的点是复用现有解析器的设计决策，这减少了代码重复，但需确保模型兼容性。

为 Gemma4ForConditionalGeneration 添加 LoRA 支持

该 PR 设计简洁，改动集中，适合作为 vLLM 中为多模态模型添加 LoRA 的参考案例。建议阅读 `get_mm_mapping` 的实现，理解条件性暴露前缀的设计。同时应尽快补充 Gemma4 专用 LoRA 测试以验证适配器加载。

修复GLM等模型在tool_choice='required'或命名函数时因XML工具调用输出导致的解析失败。

该PR值得精读，展示了通过类级标志扩展工具解析器支持不同输出格式的设计模式，关注`supports_required_and_named`的引入和请求调整逻辑，以学习如何优雅地处理模型特定行为，同时注意风险点如响应格式清理和测试覆盖。

修复 PP + async scheduling 下 chunked prefill 卡住问题

该 PR 是重要 bugfix，设计决策清晰（将条件内移避免副作用），值得精读。建议合并后补充自动化 e2e 测试以保障长期稳定性。

修复 TURBOQUANT 注意力后端选择逻辑，移除硬编码旁路并加入优先级列表。

建议仔细阅读 `vllm/platforms/cuda.py` 中的 `_get_backend_priorities` 和 `get_valid_backends` 方法，关注 TURBOQUANT 优先级调整和硬编码移除的设计决策。同时，注意 review 中提到的未解决风险，可能需要后续 PR 来优化验证逻辑。

添加 NVFP4 量化支持到 KV 缓存，扩展 reshape_and_cache_flash 功能。

该 PR 值得精读，特别是 NVFP4 量化布局设计（[k_data, k_scale, v_data, v_scale] 确保连续内存）和工具函数拆分逻辑，这些决策影响 kernel 实现和性能。关注 FlashInfer 后端的集成方式，以及 decode 路径不完整的后续处理。建议工程师了解新数据类型的添加流程和测试覆盖方法。