zigzag CP 预填支持 breakable CUDA 图
建议精读。该 PR 展示了“在已验证路径上安全放开 CUDA graph 互斥”的完整方法论:资格判断集中化(`supports_prefill_cp_bcg`)、固定地址缓冲 + 捕获容量校验(`PrefillCPBCGInput`)、以及 dispatch 边界的统一门控(`_prefill_cuda_graph_allows_context_parallel`)。值得关注的设计决策包括:不引入架构白名单而是依赖配置组合判断、replay 时对 CP 元数据做几何二次校验、以及将 eager logits tail 保留在图外。对于需要扩展其他 CP 策略(如 flashinfer / DSA)BCG 支持的团队,本 PR 的模块边界与错误处理模式可以直接复用。
参与讨论