#24850 [MoE] Fix NaN in flashinfer TRT-LLM A2A dispatch by sanitizing padding slots
原始 PR · 作者 minosfuture · 合并时间 2026-05-11 12:57
修复 Flashinfer A2A 调度中 padding slot 导致的 NaN
该 PR 为典型的单行关键 bugfix,推荐阅读以理解 A2A 调度中 padding slot sanitize 的必要性。设计上的教训是:新参数默认值应为安全值(如 -1),而不是跳过清理。值得关注的决策:通过修改 dispatch 调用而非修改 dispatcher 内部逻辑,保持了最小侵入性。
参与讨论