#30340 Fix IndexError in Triton backend with pipeline parallelism
原始 PR · 作者 dayanandav · 合并时间 2026-08-07 18:58
修复 Triton 后端 PP 下 v_head_dim 越界崩溃,解除 XPU 生产阻断
值得精读。这个 PR 虽小,但揭示了两个重要设计约束:一是 PP 下所有「以 layer 0 为锚点」的初始化逻辑都应改为 start_layer 锚定;二是注意力内核的维度必须来自 buffer 实际布局而非 model config(MLA 的 kv_lora_rank 与 head_dim 不一致)。建议后续补一个 PP + Triton 后端的单测,并排查仓库内是否存在其他写死 0 的同类查询。
参与讨论