合并多模态入口测试文件并统一资源管理
值得快速阅读。该 PR 展示了测试目录布局规范化的实践:通过 `conftest.py` 共享常量和按功能域组织测试文件,对后续多模态测试扩展具有参考价值。但由于无核心逻辑变动,不强制深度审查。
A high-throughput and memory-efficient inference and serving engine for LLMs
合并多模态入口测试文件并统一资源管理
值得快速阅读。该 PR 展示了测试目录布局规范化的实践:通过 `conftest.py` 共享常量和按功能域组织测试文件,对后续多模态测试扩展具有参考价值。但由于无核心逻辑变动,不强制深度审查。
原始 PR · 作者 bigPYJ1151 · 合并时间 2026-06-08 19:10
修复 CPU 镜像构建竞争与早期 GC 问题
此 PR 值得合并,尤其是 Docker 缓存锁的修改对构建稳定性有直接改善。虽然 `_custom_ops.py` 的改动很小,但它解决了一个潜在的运行时 bug,且修复方式符合 Python 资源管理的最佳实践。建议后续评估 GPU 镜像是否有类似需求。
原始 PR · 作者 NickLucche · 合并时间 2026-06-08 18:58
移除P2pNcclConnector及相关代码
本PR反映了项目架构演进中做减法的决策,值得阅读以理解为何在已有替代方案后移除早期原型实现。对于想自定义连接器的开发者,可参考 `KVConnectorBase_V1` API。
CPU 推测解码缺少 libiomp5 时发出性能警告
该 PR 专注于特定诊断场景,改动小且安全,建议合并。可考虑添加自动化测试验证警告条件是否按预期触发,以降低未来配置变更带来的风险。
原始 PR · 作者 chaojun-zhang · 合并时间 2026-06-08 17:36
XPU top-p 采样精度修复
该 PR 是典型的平台适配 bugfix,变更简洁且针对性强。建议 XPU 开发者和 CI 维护者关注;其他开发者无需精读。
为 Rust 前端添加暂停/恢复/状态查询端点
值得精读,特别是 `is_scheduler_paused` 的跨引擎一致性检查实现和测试中 mock engine 的模式,对于开发类似 admin 端点的开发者有参考价值。
修复 Gemma4 音频错误消息暴露本地路径
值得快速合入,属于改善用户友好的小修复。可关注 `get_served_model_name` 函数在其他模型中的使用模式是否一致。
原始 PR · 作者 zxd1997066 · 合并时间 2026-06-08 14:21
扩展 Intel GPU CI 测试覆盖
该 PR 为纯 CI 配置变更,无核心逻辑改动。值得关注的是作者坚持 `--deselect` 前缀的做法以及 worker 测试的缺失;建议后续迭代中验证 deselect 有效性并补齐 worker 覆盖。
参与讨论