CPU 推测解码缺少 libiomp5 时发出性能警告
该 PR 专注于特定诊断场景,改动小且安全,建议合并。可考虑添加自动化测试验证警告条件是否按预期触发,以降低未来配置变更带来的风险。
A high-throughput and memory-efficient inference and serving engine for LLMs
CPU 推测解码缺少 libiomp5 时发出性能警告
该 PR 专注于特定诊断场景,改动小且安全,建议合并。可考虑添加自动化测试验证警告条件是否按预期触发,以降低未来配置变更带来的风险。
原始 PR · 作者 chaojun-zhang · 合并时间 2026-06-08 17:36
XPU top-p 采样精度修复
该 PR 是典型的平台适配 bugfix,变更简洁且针对性强。建议 XPU 开发者和 CI 维护者关注;其他开发者无需精读。
为 Rust 前端添加暂停/恢复/状态查询端点
值得精读,特别是 `is_scheduler_paused` 的跨引擎一致性检查实现和测试中 mock engine 的模式,对于开发类似 admin 端点的开发者有参考价值。
修复 Gemma4 音频错误消息暴露本地路径
值得快速合入,属于改善用户友好的小修复。可关注 `get_served_model_name` 函数在其他模型中的使用模式是否一致。
原始 PR · 作者 zxd1997066 · 合并时间 2026-06-08 14:21
扩展 Intel GPU CI 测试覆盖
该 PR 为纯 CI 配置变更,无核心逻辑改动。值得关注的是作者坚持 `--deselect` 前缀的做法以及 worker 测试的缺失;建议后续迭代中验证 deselect 有效性并补齐 worker 覆盖。
原始 PR · 作者 AndreasKaratzas · 合并时间 2026-06-08 14:11
稳定 ROCm 测试清理流程,修复单位不匹配和超时问题
值得精读,尤其是 `tests/utils.py` 中关于 ROCm 内存清理的阈值的注释,以及对跨平台 GPU 内存查询单位不一致的修复模式。此 PR 展示了如何系统性解决测试环境中的 GPU 资源泄漏问题,是 CI 稳定性的良好实践。
原始 PR · 作者 AndreasKaratzas · 合并时间 2026-06-08 14:00
为 ROCm CI 新增 Stage C 镜像测试组
建议合并本 PR(已合并),但后续应跟进 review 中关于父步依赖缺失的问题,将 `vllm/platforms/rocm.py` 等文件添加到对应测试区域的 `source_file_dependencies` 中,确保 ROCm 代码变更能够正确触发镜像测试。本 PR 可以作为 CI 镜像模式的参考实现。
统一 XPU MoE 内核命名格式
本 PR 为纯命名规范化变更,建议快速合并。若仓库有严格的向后兼容要求,可考虑在发布说明中提及类名变更。对于想了解 vllm XPU MoE 内核组织方式的读者,本 PR 可作为索引参考。
参与讨论