vllm-project/vllm

新增长音频 ASR 基准测试与正确性测试

值得阅读。该 PR 展示了如何为多模态任务设计轻量级基准数据集，并围绕数据集异构性构建弹性加载逻辑。其中的 `load_data` 多分支设计和 `send_audio_file` 抽象可以作为类似场景的参考模式。维护者应关注安全评论中提到的路径验证建议，考虑在后续 PR 中加固。

修复 Mamba CPU Offloading 在 block 边界命中错误

建议阅读以了解 Mamba 模型与 offloading 交互的特殊处理，以及设计决策中 `round_down` 位置、配置来源选择的权衡。单元测试（ `test_mamba_align_cpu_offload` ）的设计值得参考。

多线程预处理使 ASR 长音频 RTFx 提升 2.5 倍

值得精读。关键设计决策包括：独立于 Renderer 的线程池（对比测试显示独立池性能更好）、使用 Semaphore 限制并发以便取消、环境变量默认值由实验驱动。如有类似 CPU 预处理阻塞事件循环的场景，可参考此模式。

修复 prompt_tokens_details 遗漏零缓存令牌

建议阅读本 PR，尤其是 Python 真值陷阱导致的行为偏差及其修复模式。对于维护 API 正确性的团队，这是值得关注的案例：一个空格的变化（`and num_cached_tokens` → `and num_cached_tokens is not None`）就能影响整个数据管道。disagg 路径的逐步补全也说明了全面的代码审查的重要性。

修复测试 mock 与新版 KVCacheManager 签名不匹配

此类伴随重构的测试更新非常重要，建议 CI 中增加对涉及变更模块的相关测试的自动触发机制，避免遗漏。

修复两个模型加载器中 revision 参数错传到 subfolder 的 bug

建议检查项目中所有调用 download_safetensors_index_file_from_hf 的地方，确保均使用关键字参数传递避免类似错误。PR 修改简洁清晰，适合作为参数传递最佳实践的参考案例。

ROCm gfx950 上 DSv4 解码注意力通过 split-K 加速 8 倍

该 PR 值得精读，尤其是 flash-decode split-K 与 wave-aware 分片启发式的设计思路，对于理解注意力解码瓶颈和 ROCm 高性能 kernel 编写有参考价值。建议关注后续是否推广到其他架构。

修复 OffloadingConnector 忽略 skip_reading_prefix_cache 标志

推荐阅读。该 PR 虽然改动小，但展示了在多层缓存系统中保持语义一致的重要性。`OffloadingConnector` 与 `KVCacheManager` 的协调逻辑值得关注，特别是如何确保外部缓存与本地缓存行为同步。测试用例的设计（先填充缓存，重置本地，再验证跳过）可作为同类修复的参考模式。