sgl-project/sglang · 作者 zhangxiaolei123456 · 合并时间 2026-03-28 07:23
PR body 中提供了错误堆栈：在 benchmark/kernels/fused_moe_triton/tuning_fused_moe_triton.py 中调用 get_model_config 函数时，因 Qwen3.5 的 architectures 不是通过 text_configs 定义，导致 IndexError。具体错误为 'architecture = config.architectures[0]' 在未正确处理 config 时失败。
对于关注 fused MoE 优化或 Qwen 模型支持的开发者，此 PR 值得快速浏览以了解配置处理细节；对于一般用户，无需深入阅读。
Review 中只有 b8zhong 的批准，没有具体讨论内容，因此无争议或深入交流点。
修改集中在 benchmark/kernels/fused_moe_triton/common_utils.py 的 get_model_config 函数。关键改动包括：1. 将获取 architecture 的代码行移到检查 text_config 之前，避免在 Qwen3.5 等模型中因缺少 text_config 而访问错误；2. 调整条件逻辑顺序，确保 block_shape 获取后再处理 text_config。
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
benchmark/kernels/fused_moe_triton/common_utils.py |
benchmark | modified | 4.0 |
分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。
当前评论区没有形成足够清晰的争议点或结论，后续有更多讨论时会体现在这里。
风险较低，因为修改局限于一个 benchmark 函数且仅调整代码顺序。但需注意是否影响其他模型类型（如 encoder-decoder 模型）的行为，潜在回归风险在于配置解析逻辑的变化。建议在合并后运行相关测试验证兼容性。
此修复直接解决了 Qwen3.5 模型在 fused MoE Triton tuning benchmark 中的崩溃问题，使用户能正常进行性能调优。影响范围仅限于使用该 benchmark 的用户，对系统其他部分无影响，属于局部维护性修复。
当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。
此 PR 修复了 Qwen3.5 模型在 fused MoE Triton tuning benchmark 中的架构解析错误，通过调整配置处理逻辑确保兼容性，影响范围仅限于该 benchmark 的使用，属于常规维护性修复。
在运行 benchmark/kernels/fused_moe_triton/tuning_fused_moe_triton.py 时，Qwen3.5 模型因 config.architectures[0] 访问错误而崩溃。PR body 中提供了具体错误堆栈，指出 architectures 不是通过 text_configs 定义，导致 IndexError。修复动机是确保 benchmark 能正常支持 Qwen3.5 模型。
修改了 benchmark/kernels/fused_moe_triton/common_utils.py 文件中的 get_model_config 函数。关键变更如下：
architecture = config.architectures[0] 代码行从函数末尾移至检查 text_config 之前。block_shape 再处理 text_config。text_config 不存在而导致的配置解析失败。Review 中没有实质性讨论，仅 b8zhong 批准了 PR，无争议或深入交流点。
此 PR 与历史 PR #19059（标题："[jit_kernel] Add fused_qknorm_rope JIT kernel"）相关，后者修改了 python/sglang/srt/models/qwen3_moe.py，涉及 Qwen MoE 模型的优化。这表明项目在持续改进 MoE 相关功能，本 PR 是其中针对 benchmark 的小幅修复。
参与讨论