#43538 [CI/Perf] Fix malformed serving benchmark config
原始 PR · 作者 fallintoplace · 合并时间 2026-07-29 17:52
修复性能基准 JSON 配置格式错误
值得快速合并,属于高频阻塞型 bugfix。关注其中对预发布流程的教训:未来修改 benchmark 配置应确保 JSON 合法性校验被纳入 CI 流程。
A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 fallintoplace · 合并时间 2026-07-29 17:52
修复性能基准 JSON 配置格式错误
值得快速合并,属于高频阻塞型 bugfix。关注其中对预发布流程的教训:未来修改 benchmark 配置应确保 JSON 合法性校验被纳入 CI 流程。
原始 PR · 作者 cinnamonica02 · 合并时间 2026-07-29 17:21
Rust 前端新增 --limit-mm-per-prompt 限制多模态输入数量
该 PR 是 Rust 前端功能对齐的重要里程碑,设计上考虑了与 Python 的兼容性、类型安全和可扩展性。评审讨论深入,值得团队精读,尤其是数据类型的序列化策略和跨 crate 数据传递模式。
原始 PR · 作者 fxmarty-amd · 合并时间 2026-07-29 17:17
修复 gfx942 上 MXFP8 MoE 后端选择测试
该 PR 修复了测试逻辑,建议合入以确保 CI 稳定性。值得关注的是,它揭示了不同 GPU 硬件(gfx942 vs gfx950)对 MXFP8 后端的支持差异,以及测试需要模拟平台特性的最佳实践。
EC Connector 新增 pending push 检测
此 PR 为简单接口扩展,设计清晰,实现安全。值得关注的点是如何在子类中实际利用该钩子。
XPU 平台 PyTorch 升级至 2.13 及内核包更新
该 PR 值得阅读,尤其是 `vllm/_custom_ops.py` 中的 workaround 清理和 Dockerfile 的简化做法,展示了平台升级时应同步清理技术债务的良好工程实践。对于 XPU 开发者,需要关注新的 oneAPI 2026.0 基础镜像和 PyTorch 2.13 的兼容性问题。建议在合并后密切监控 XPU 相关 CI 测试结果。
原始 PR · 作者 lengrongfu · 合并时间 2026-07-29 16:24
为 Minimax-M3 添加默认视频处理器
值得关注的设计:注册器支持 `video_processor` 名称检索模式,以及帧索引对齐 HF 的策略。但需特别注意导入依赖的隐性风险,建议在合并前验证模块的独立导入能力。此 PR 被回滚后仍需修复导入问题再重新提交。
原始 PR · 作者 JaredforReal · 合并时间 2026-07-29 16:24
修复 EAGLE draft 位置编码越界与 proposer block_size 不对齐
建议所有参与 speculative decoding 开发的同学精读本 PR。实现思路清晰:配置层修复 draft 模型不对齐问题,运行时层修复 block_size 和确定性,测试覆盖充分,为类似 bug 的修复提供了模板。
原始 PR · 作者 PerkzZheng · 合并时间 2026-07-29 16:21
注册 Qwen3.5 文本纯文本模型架构
值得精读。该 PR 展示了一个典型的模型注册修复模式:注册架构名、补全配置类、补充必要的接口(IsHybrid + mamba 状态方法)。对理解 vLLM 模型注册系统有参考价值。
参与讨论