#38913 [Kernel] Add H20 block-FP8 MoE configs for GLM-5.3-Flash EP4/EP8
原始 PR · 作者 HanHan009527 · 合并时间 2026-09-16 14:42
性能优化
重要性 5.95
洞察度 5.00
为 H20 新增 GLM-5.3-Flash block-FP8 MoE 调优配置
值得精读，但重点不在 diff 本身（只有 1 行代码 + 2 份 JSON），而在于它示范了 sglang 的 MoE 配置分发机制：文件名即查找键、M 桶分档、设备名隔离，以及调优器与运行时如何共享同一套 E/topk/intermediate_size 口径。建议关注三点：一是 `get_model_config()` 中 `Glm5NextForConditionalGeneration` 被加入外层白名单但未加入共享专家融合内层白名单的语义后果（E 不加 1）；二是小 M 与大 M 收益落差极大（1.9x vs 1.05x），不要向长 prefill 场景承诺同等加速；三是这类配置资产与 Triton 版本目录强绑定，升级 Triton 前需要预留重新调优的窗口。