#45113 Fix misleading error for audio duration limit rejection
原始 PR · 作者 jperezdealgaba · 合并时间 2026-06-12 17:58
修复音频时长超限错误提示误导问题
可合并,属于小改进,值得精读以了解错误传播的最佳实践。
A high-throughput and memory-efficient inference and serving engine for LLMs
原始 PR · 作者 jperezdealgaba · 合并时间 2026-06-12 17:58
修复音频时长超限错误提示误导问题
可合并,属于小改进,值得精读以了解错误传播的最佳实践。
扩展现有 hidden states 集成测试触发条件
建议精读。此 PR 展示了维护大型项目中 CI 测试触发策略的典型实践——当有新功能测试文件或关键依赖文件引入时,需要同步更新 CI 触发规则。值得关注的决策是将 `example_hidden_states_connector.py` 显式加入依赖(而非笼统依赖目录),以及为多 GPU 测试单独设立 job,避免与单 GPU 测试混淆。
Rust 前端提示验证失败返回 400 而非 500
值得精读,尤其是错误分类模式 `text_submit_error`/`chat_submit_error` 的设计。展示了如何通过类型匹配实现分层错误处理,并且包含了完整的测试覆盖。
原始 PR · 作者 chaunceyjiang · 合并时间 2026-06-12 15:51
集成 xgrammar 结构标签实现工具调用严格模式
值得深度审查:设计上委托给 xgrammar 的思路清晰,代码简化效果显著,但默认启用严格模式的风险需要评估。建议在发布说明中明确提示,并考虑在下游版本中保留 VLLM_ENFORCE_STRICT_TOOL_CALLING 作为逃生门机制。此外,推理阶段约束的禁用原因值得团队进一步调研,以便未来恢复。
增强CI日志获取脚本,支持批量拉取失败job
对于团队中经常调试 CI 失败的成员,建议立即采用新用法;对于 Agent 开发者,AGENTS.md 中的更新是必读项。整体设计合理,可读性好,建议精读 ci-fetch-log.sh 以理解其逻辑。
原始 PR · 作者 majian4work · 合并时间 2026-06-12 15:41
修复 XPU 上 DeepSeek V4 MTP 实现的多项 bug
值得合入,修复了明确的 bug,且经过 review 验证。建议关注是否有对应的测试覆盖,特别是 mhc_post 和权重映射相关的回归测试。
转发 --shutdown-timeout 和 --disable-log-stats 到 Python 引擎
值得合入,修复了两个明确的行为 bug。测试充分(两个新的回归测试),代码变更简洁且遵循既有模式。建议精读 `into_config` 方法,理解托管模式下参数转发机制,这对于 Rust 前端开发者理解系统架构有帮助。
为CPU添加W4A16 INT4 MoE支持(AWQ/GPTQ/Compressed-Tensors)
建议团队精读该 PR,重点学习如何为新硬件后端添加 MoE 量化支持:包括后端注册、权重处理、内核封装和测试配套。Review 中的讨论也值得参考,尤其是关于 workspace 分配和零点传递的设计决策。
参与讨论