修复 GLM 5.2 DSA 模型 CP-v2 三处缺陷
值得精读。对推理引擎开发者,重点看 dsa/utils.py 的 cal_padded_tokens 与 dsa_backend.py 的 _forward_trtllm:它们清楚展示了 CP-v2(interleave 分片)与 legacy CP(split-and-rebuild)在位置语义与 padding 语义上的差异,以及如何用 is_cp_v2_active 做双路径兼容。对使用 GLM 5.2 + prefill-cp 的用户,建议在 MTP 场景观察行为并关注后续修复;对 SGLang 维护者,建议为本 PR 补充针对 per_rank_actual_token 初始化顺序的单元测试。
参与讨论