修复 streaming 中 tool_choice=none 仍调用工具解析器的 bug
该 PR 是重要的正确性修复,值得所有使用工具解析功能的开发者关注。守卫位置和条件范围的设计决策(集中到 `_extract_tool_calls_streaming`、仅检查 `"none"`)值得在类似问题中借鉴。建议后续补充 Responses API 的回归测试,确保完全覆盖。
标签列表
聚合结果
修复 streaming 中 tool_choice=none 仍调用工具解析器的 bug
该 PR 是重要的正确性修复,值得所有使用工具解析功能的开发者关注。守卫位置和条件范围的设计决策(集中到 `_extract_tool_calls_streaming`、仅检查 `"none"`)值得在类似问题中借鉴。建议后续补充 Responses API 的回归测试,确保完全覆盖。
修复 LoRA 加载异常处理路径
建议合入,该 PR 修复了 LoRA 加载失败时的异常处理路径,避免内部错误暴露。虽无测试配套,但逻辑简单且改动量小,风险可控。未来可考虑补充测试用例覆盖异常路径。
原始 PR · 作者 chaunceyjiang · 合并时间 2026-06-03 22:52
折叠 developer 角色消息为 system
此 PR 值得阅读,展示了处理 API 角色兼容性的谨慎做法:检测、转换、合并,并选择在共享的 `safe_apply_chat_template` 中实现,而非特定于 Responses API。测试覆盖完整,设计决策中有 trade-off 讨论,适合作为类似兼容性需求的参考模式。
为 Rust 前端添加 /server_info 端点
该 PR 设计良好,实现了与 Python 前端一致的功能,并考虑了安全防护(dev_mode 门控、敏感过滤)。实现结构清晰,适合作为 Rust 前端新增功能的参考。建议开发者关注其中状态集成和序列化简化的技巧。
修复 Responses API 流式工具调用参数丢失
值得快速合并。修复明确,改动量小,风险低。可关注后续是否还有类似遗漏的调用点。
修复 HF chat template 渲染的数字精度和字段影子问题
本 PR 值得精读,尤其关注以下要点:(1)如何在不修改 MiniJinja 核心的前提下,通过自定义 Object 和 pycompat 后门解决字段与方法冲突的设计模式;(2)全局 `serde_json` 特性调整时的依赖影响评估思路;(3)测试用例设计中对渲染精度妥协的明确标注。对于同样使用 MiniJinja 渲染 HF 模板的其他项目,此方案具有直接参考价值。
Rust 前端新增动态 LoRA 管理端点
该 PR 安全设计充分,并发控制合理,值得团队精读。建议后续补充 CI 中端到端测试,并关注路径验证的 TOCTOU 缓解。
Rust 服务端新增路由器扩展钩子
值得阅读以了解 Rust 前端 API 的演进方向。该 PR 展示了如何以最小侵入的方式添加扩展点,设计决策(不暴露内部状态、闭包组合)值得借鉴。