新增 Spark3 模型架构支持与工具调用解析器
值得精读。面向模型接入开发者,重点看三处:`Spark3Config` 的 `layer_types` 与两套 `rope_parameters` 默认策略;`models/spark3.py` 的滑动窗口语义换算与 head-wise 输出门控实现;`Spark3Detector` 的流式原子输出与类型转换回退。建议在合并后跟进模型 E2E 精度测试与 1M context 压测。
标签列表
聚合结果
新增 Spark3 模型架构支持与工具调用解析器
值得精读。面向模型接入开发者,重点看三处:`Spark3Config` 的 `layer_types` 与两套 `rope_parameters` 默认策略;`models/spark3.py` 的滑动窗口语义换算与 head-wise 输出门控实现;`Spark3Detector` 的流式原子输出与类型转换回退。建议在合并后跟进模型 E2E 精度测试与 1M context 压测。
修复 LFM2 检测器丢弃合法工具调用的问题
值得精读。核心看点:1) 恢复阶梯的设计哲学——所有重写都是确定性的、保值的,并以 `ast.parse` 成功为唯一接受标准,“无法唯一判定就拒绝”的 fail-closed 原则避免了猜测性修复引入更坏的静默数据损坏;2) “调用数不变量”防止晚闭合引号把兄弟调用吞进参数值,是本次最有洞察力的防护;3) 19 个回归用例逐一验证修复前必失败,加上与 vLLM 的 42-payload 差分对齐,测试方法本身很有参考价值。只关心功能的读者可直接看 PR body 的三张 Before/After 表格,它本身就是一份优秀的 bug 分类清单。
修复 GLM 模板对混合 tool_result 丢失 schema 的问题
值得精读。核心看点是:在协议边界拆分消息而不是修改聊天模板,以适配不同厂商模板的渲染假设;同时展现了 review 如何收敛过宽的通用方案。适合关注 Anthropic 兼容层、多模型聊天模板渲染的工程师阅读。建议后续补充更多边界场景测试。