标签列表
聚合结果
修复自定义编码器下 Anthropic 历史思考标记泄漏
值得精读。三点设计值得借鉴：一是从渲染产物反推根因——用修复前后经真实 tokenizer 的渲染对照定位频道错位，而不是只看解析器行为；二是契约用 `spec is not None` 覆盖整个编码器家族并明确安全默认方向（丢弃优于泄漏），避免未来新增编码器踩同样的坑；三是用源码解析守卫测试把“新增编码器必须分类”变成 CI 硬约束并做 mutation-check。若后续增强，建议补 dsv4 / dsv32 / inkling 的端到端多轮回归，并把 `reasoning_content` 的双向验证收进契约测试。
修复 GLM 模板对混合 tool_result 丢失 schema 的问题
值得精读。核心看点是：在协议边界拆分消息而不是修改聊天模板，以适配不同厂商模板的渲染假设；同时展现了 review 如何收敛过宽的通用方案。适合关注 Anthropic 兼容层、多模型聊天模板渲染的工程师阅读。建议后续补充更多边界场景测试。
原始 PR · 作者 JustinTong0323 · 合并时间 2026-06-13 05:46
修复并增强 Anthropic /v1/messages 兼容性
此 PR 价值极高，建议负责 API 兼容层的开发者精读。重点关注： - streaming 生成器中 content_block 状态管理设计（serving.py 的 _ensure_content_block_events） - 思考参数在 Anthropic 与 OpenAI 之间的映射机制（serving_chat.py 的 apply_reasoning_enabled） - 协议模型从普通 Pydantic 模型向 discriminated union 的迁移方式（protocol.py） - 测试用例的构造模式，尤其是如何用 fake serving 模拟底层行为。