Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

gemma 相关 PR

2026-08-25
缺陷修复 重要性 5.59 洞察度 5.00

修复 Gemma4 带括号工具调用的解析错误

建议精读此 PR 的状态机转换设计,尤其是从 TOOL_NAME 安全退出的处理,理解 vLLM 解析器的设计模式。但需注意其测试覆盖不足,可参考后续补充测试。

2026-08-21

#53170 [Bugfix] Load untied Gemma LM head weights

原始 PR · 作者 khluu · 合并时间 2026-08-21 08:47

缺陷修复 重要性 6.87 洞察度 5.00

修复 Gemma 未绑定 LM head 的加载失败

值得精读,尤其是关注 `ParallelLMHead` 的 `tie_weights` 用法与 `logits_processor` 的配合。该修复模式(检查点驱动解绑 + 动态构造头)可推广至其他硬编码绑定的模型(如 gemma2、commandr 等)。

2026-05-10
2026-05-05
缺陷修复 重要性 6.08 洞察度 5.00

修复 Gemma4 MoE 激活函数为 tanh 近似 GELU

该 PR 设计清晰、改动集中,已获得批准。建议团队在合入后验证 Gemma4 模型生成质量无明显波动,并确认 LoRA 相关测试通过。

2026-05-01
缺陷修复 重要性 6.97 洞察度 4.00

修复 Gemma 4 MoE 专家捕获器配置键不兼容

此 PR 值得快速合并,修复明确且影响范围小。建议未来在模型配置兼容性改进中考虑添加单元测试(如测试 `_get_num_experts_per_tok` 对不同配置的响应),避免类似回归。