支持 DSV4 DP Attention 可断点 CUDA 图
建议所有 DeepSeek V4 相关开发者精读此 PR,重点关注: 1. `DSV4AttnMetadata.refresh_for_breakable_cuda_graph_replay_` 中的字段分类设计,这是图捕获地址稳定的核心。 2. BCG 运行器中 DP rank 同步保护的模式,可复用于其他分布式后端。 3. 注意力后端接口的扩展方式,后续为其他模型添加 BCG 支持时可参考 `DeepseekV4AttnBackend` 的 opt-in 实现。 对于运维团队,建议先在低风险预发布环境进行 A/B 性能对比,确认工作负载符合预期后再推广。
参与讨论