标签列表
聚合结果
原始 PR · 作者 gilfordting · 合并时间 2026-08-15 07:41
规避 xgrammar 0.2.1 负整数下限编译错误，修复 Kimi-K3 工具调用
值得精读，可作为处理第三方依赖转换缺陷的典型 workaround 案例。关注点：零拆分的 anyOf 策略如何保持语义等价；exclusiveMinimum 的边界转换；以及 CI 中真实 xgrammar 编译测试的写法。
MuseGlimmer required/named 工具调用改走原生 ATEM 解析
值得快速阅读：PR 体量小但清晰解释了 SGLang 工具调用解析器的路由机制（JsonArrayParser 与 detector 原生解析的切换条件）。重点关注 parses_required_natively 这一行为开关的设计：它以方法形式暴露「模型是否原生产出工具调用格式」的语义，比在路由层硬编码模型名更易扩展。建议后续补一个多轮 required/named 的回归测试，并在代码注释或文档中说明该开关与 JSON-array grammar 路径的关系。
原始 PR · 作者 JustinTong0323 · 合并时间 2026-08-02 05:57
Kimi K3 推理与工具调用解析及 OpenAI 服务支持
值得精读。建议关注 4 个设计点：(1) `kimik3_structural_tag.py` 的 JSON Schema → XTML 双格式翻译与 OrFormat 变体构造；(2) `KimiK3Detector`（function_call 与 reasoning_parser 两个）的流式状态机与 buffer / 游标重置契约；(3) `TokenSequenceMatcher`（KMP 前缀函数）在 grammar 回滚与多 token marker 匹配中的用途；(4) #33192 的约束失败降级策略——“不强制 JSON-only schema” 的取舍。若要接入新的专用 token 格式模型，这是当前最完整的参考实现。
原始 PR · 作者 vedularaghu · 合并时间 2026-07-22 23:25
修复 streaming 中 partial JSON 解析断言异常
建议合入此 PR。它是一个典型的小型防御性修复，虽简单但有效防止了特定输入导致的请求中断。阅读 `_partial_json_loads` 的异常处理结构可获得防御性编程启发。
原始 PR · 作者 zhangtao2-1 · 合并时间 2026-05-22 23:09
新增 MiniCPM5 XML 格式工具调用解析器
值得精读。该 PR 是工具调用框架的一次典型扩展，展示了 parser 注册、自动检测规则添加和流式边界处理的完整实践。特别推荐关注 `detect_and_parse` 中的多路径解析（lxml primary + regex fallback）和 `parse_streaming_increment` 中的缓冲区管理逻辑。