#28450 [AMD] Fuse shared-expert append + DeepEP remap into one Triton kernel
原始 PR · 作者 rbrugaro-amd · 合并时间 2026-06-25 16:22
融合共享专家追加与 DeepEP 重映射为单个 Triton 内核
本 PR 值得相关人员精读,特别是关注 AMD MoE 推理性能优化的工程师。其设计体现了“每层一次 Triton launch”的极致融合思路,且对数值一致性有严格验证(bit-identical 断言)。代码风格和 review 中提出的修改建议(如导入简化、异常代替 assert)可作为团队代码规范参考。建议在 AMD 生产环境充分测试后,考虑将 `SGLANG_MORI_NO_PAD_MASK` 默认开启以最大化性能。
参与讨论