#45707 [Bugfix][MoE] Restore routed output unpadding before shared expert add
原始 PR · 作者 netanel-haber · 合并时间 2026-06-16 21:06
修复 MoE 路由输出在共享专家加前未反填充的回归
该 PR 值得精读,尤其是在使用 MoE 模型和 flashinfer_trtllm 后端的场景。其设计决策体现了对张量内存布局和量化后填充的细致考虑。建议后续关注类似的条件判断谨慎避免 AND/OR 混淆。
参与讨论