Prhub

#1729 [docker] update megatron

原始 PR 作者 zhuzilin 合并时间 2026-03-18 10:32 文件变更 5 提交数 1 评论 0 代码增减 +77 / -103

执行摘要

更新 SGLang 补丁并禁用路由器断路器,修复 RDMA 会话中断问题。

根据提交消息'remove failed_sessions.add to prevent rdma session from breaking',动机是修复RDMA会话在传输超时(如PCIe争用)时被错误标记为失败的问题,从而防止会话中断。

建议涉及RDMA或路由器配置的工程师精读此PR,关注slime/ray/rollout.py中的设计决策,特别是禁用断路器的权衡,以确保理解潜在风险。

讨论亮点

本PR没有review评论,因此无讨论记录。

实现拆解

实现包括三个主要部分:

1) 更新docker/patch/latest/sglang.patch,删除failed_sessions.add和相关错误日志,优化MooncakeKVManager中的会话失败处理逻辑;
2) 升级docker/version.txt中的版本号至nightly-dev-20260318a,同步Docker镜像更新;
3) 修改slime/ray/rollout.py中的_start_router函数,添加对PD disaggregation的参数支持并设置disable_circuit_breaker为True,注释解释目的是防止RDMA超时误判。此外,移除了未使用的生成中心文件以清理代码库。

文件 模块 状态 重要度
docker/patch/latest/sglang.patch docker modified 6.0
docker/version.txt docker modified 3.0
slime/ray/rollout.py rollout modified 5.0
slime/rollout/generate_hub/__init__.py rollout removed 2.0
slime/rollout/generate_hub/benchmarkers.py rollout removed 2.0

关键符号

_start_router MooncakeKVManager.send_aux MooncakeKVManager.record_failure

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险包括:

1) 补丁更新可能引入上游SGLang的新bug,影响Docker环境稳定性,具体在docker/patch/latest/sglang.patch中的代码删除;
2) 禁用路由器断路器可能掩盖真正的服务器故障,导致问题潜伏,风险点在slime/ray/rollout.py中的配置变更;
3) 修改会话失败逻辑可能影响MooncakeKVManager的错误恢复机制,增加系统不确定性。

影响范围:

1) Docker镜像用户需要更新以获取修复,CI环境可能受影响,但改善稳定性;
2) 路由器配置变更影响所有使用PD disaggregation的部署,可能提升高负载下的性能,但需注意潜在风险;
3) 移除生成中心文件清理代码库,对功能无直接影响。影响程度中等,针对特定场景的bug修复。

会话失败逻辑调整 断路器禁用风险 补丁依赖更新

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论