#53657 [Bugfix] Handle parenthesized Gemma4 tool calls
原始 PR · 作者 taneem-ibrahim · 合并时间 2026-08-25 20:21
修复 Gemma4 带括号工具调用的解析错误
建议精读此 PR 的状态机转换设计,尤其是从 TOOL_NAME 安全退出的处理,理解 vLLM 解析器的设计模式。但需注意其测试覆盖不足,可参考后续补充测试。
标签列表
聚合结果
原始 PR · 作者 taneem-ibrahim · 合并时间 2026-08-25 20:21
修复 Gemma4 带括号工具调用的解析错误
建议精读此 PR 的状态机转换设计,尤其是从 TOOL_NAME 安全退出的处理,理解 vLLM 解析器的设计模式。但需注意其测试覆盖不足,可参考后续补充测试。
修复 Gemma 未绑定 LM head 的加载失败
值得精读,尤其是关注 `ParallelLMHead` 的 `tie_weights` 用法与 `logits_processor` 的配合。该修复模式(检查点驱动解绑 + 动态构造头)可推广至其他硬编码绑定的模型(如 gemma2、commandr 等)。
原始 PR · 作者 AbhiOnGithub · 合并时间 2026-05-10 11:08
澄清 Gemma 4 辅助模型须用 MTP 路径
建议精读。该 PR 是处理“文档与实现不一致”的标准范例,值得其他特性维护者参考。
原始 PR · 作者 lucianommartins · 合并时间 2026-05-05 12:34
修复 Gemma4 MoE 激活函数为 tanh 近似 GELU
该 PR 设计清晰、改动集中,已获得批准。建议团队在合入后验证 Gemma4 模型生成质量无明显波动,并确认 LoRA 相关测试通过。
修复 Gemma 4 MoE 专家捕获器配置键不兼容
此 PR 值得快速合并,修复明确且影响范围小。建议未来在模型配置兼容性改进中考虑添加单元测试(如测试 `_get_num_experts_per_tok` 对不同配置的响应),避免类似回归。