#21170 [BUGFIX] Fix CP residual size mismatch crash when tp_size == attn_cp_size
原始 PR · 作者 yudian0504 · 合并时间 2026-03-23 15:12
修复上下文并行中当 tp_size 等于 attn_cp_size 时残余张量大小不匹配导致的推理崩溃。
对于维护 sglang 并行通信模块的工程师,建议精读此 PR 以理解 CP 中模式匹配和数据布局一致性的细节。变更虽小,但揭示了在并行计算中条件逻辑顺序的重要性,值得关注以防止类似错误;对于管理者,可快速合并以确保系统稳定。
参与讨论