将 Profiling 信息合并到 Router,重构 sglang 补丁
建议仔细 review router 侧对应的 profiling 实现是否已合入,并充分测试 PD 分离场景下的 timeout 和 memory 释放逻辑。
slime is an LLM post-training framework for RL Scaling.
将 Profiling 信息合并到 Router,重构 sglang 补丁
建议仔细 review router 侧对应的 profiling 实现是否已合入,并充分测试 PD 分离场景下的 timeout 和 memory 释放逻辑。
原始 PR · 作者 nanjiangwill · 合并时间 2026-07-02 17:20
磁盘级delta权重同步,替代NCCL传输
值得精读,特别是 `disk_delta.py` 中的工具函数设计以及 `UpdateWeightFromDiskDelta` 如何通过继承复用 `UpdateWeightFromDistributed`。配置参数的变化也需关注以便兼容旧脚本。
修复 rollout_top_p 条件检查,确保非 1.0 时强制要求 token ids
小范围正确性修复,值得合并,无需精读。
原始 PR · 作者 jingshenghang · 合并时间 2026-07-02 11:05
SWE 评分协议可配置 + Sandbox RPC 稳健性增强
值得精读,尤其是 `exec_and_wait` 的设计模式和 `E2BSandbox._rpc_retry` 的幂等性策略;评分协议的策略模式也很清晰。建议关注截断逻辑的正确性和重试异常覆盖。
原始 PR · 作者 realJaydenCheng · 合并时间 2026-07-01 17:49
修复 IPv6 环境下权重更新初始化崩溃
该 PR 虽小但关键,修复了分布式训练在 IPv6 环境下的阻塞问题,值得合并。建议阅读 `_wrap_ipv6` 的实现以确认其鲁棒性。
修复 all-gather CP 模式下训练卡住的问题
建议合并该 PR,它解决了严重的训练卡死问题。修改小而精确,值得精读以理解 all-gather CP 模式下梯度图构建的细节。特别是 `requires_grad` 继承和切片取代 `torch.zeros` 的做法,可作为保持计算图连续性的参考模式。
修复 CI 测试,调整梯度比对逻辑与配置
本 PR 是典型的 CI 稳定性修复,值得关注的是 `_assert_logprob_backward_close` 的设计:通过 bfloat16 对齐来规避不同 kernel 的精度差异,是一个实用的数值测试技巧。
移除 set_materialize_grads 并修复梯度传播
值得精读。变更小但涉及梯度流的核心路径,移除高风险配置,建议在训练实验中验证梯度正确性与收敛效果。
参与讨论