vllm-project/vllm

修复 DSv4 indexer Q 量化 FP8 dtype 不匹配

值得精读，尤其关注 Triton 内核 constexpr 参数化设计，以及如何通过平台检测实现硬件适配。PR 改动简洁（1 文件 +19/-8），但性能收益巨大，是 ROCm 生态的重要修复。

修复 pooled Whisper 滑动窗口 KV 缓存大小错误

值得精读。这是一个典型的数据契约 bug：同一个物理量在不同抽象层次使用了不同单位，导致资源预留错误。设计决策是将缩放点放在 `get_kv_cache_spec` 中，而不影响注意力内核，保持了关注点分离。

SageMaker handler 覆盖测试改用 TestClient，移除模型服务器依赖

值得关注的是其 in-process 测试模式：针对仅测试非推理逻辑的场景，用 TestClient 替代全服务器启动可显著提高 CI 可靠性和速度。但需确认 `attach_router` 和 `sagemaker_standards_bootstrap` 的调用方式与生产一致，避免测试环境与生产环境的行为偏差。

ROCm DSV4默认使用aiter mHC预/后算子

值得精读。该 PR 展示了如何通过能力检测优雅地实现多后端 kernel 选择和切换，保留了清晰的 fallback 链，是 ROCm 平台上性能优化的典型案例。评审中的讨论也体现了对代码可维护性和向后兼容性的权衡。

权重同步重构，抽取稀疏 NCCL 独立引擎

建议精读该 PR，特别是引擎抽象设计、NCCL 初始化共享化以及 Worker 瘦身的模式。对于需要深度定制权重传输的开发者，理解 `WeightTransferEngine` 的新生命周期至关重要。该 PR 值得关注的设计决策包括：将 `start_weight_update`/`finish_weight_update` 声明为抽象方法以保证一致性，以及通过 `nccl_common` 避免代码复用时的继承耦合。

XPU 启用 qk_norm_rope_fusion 测试并解耦 CUDA

变更清晰、目标明确，但改动量小，属于常规维护型 PR。值得关注的是 `current_platform` 抽象的使用模式，可作为同类设备解耦的参考。推荐阅读 `vllm_inductor_pass.py` 中辅助方法的修改，以统一后续跨设备支持的编码风格。

修复 LoRA 多模态测试中环境变量未恢复问题

该 PR 属于常规测试修复，值得关注的点是使用 `monkeypatch` 管理环境变量的最佳实践，可在其他需要临时环境变量设置的测试中推广。

重命名 sleep-mode 能力标志为通用通信器

值得阅读以了解 vLLM 团队对 API 命名一致性和通用性的重视。可以视为一个良好的 API 设计实践案例：及时响应 review 反馈，在早期发现命名问题并修正，避免未来破坏性变更。