slime is an LLM post-training framework for RL Scaling.
原始 PR · 作者 jingshenghang · 合并时间 2026-05-26 23:34
新增编码代理 RL 示例，E2B 沙盒 + Claude Code 集成
值得精读，尤其关注 middleware.py 的设计模式：如何通过 Chain/Session 实现多对话链跟踪、raw token 拼接保证 TITO、以及 generate.py 的容错设计。对于希望实现类似代理 RL 管线的工程师有很强参考价值。
修复 sglang PD prefill 超时 abort 与 KV 同步失败处理
该 PR 是关键的健壮性修复，建议合并。对于生产环境，建议根据实际网络状况调整超时配置。
升级 sglang 至 v0.5.12.post1，更新 Docker 与 CI 配置。
建议关注 sglang patch 中关于 bootstrap 超时和内存占用释放的实现，这是提升分布式推理稳定性的关键改动。gpu_lock_exec 的重写模式可在其他类似工具中复用。
为 delta 权重更新模块增加旧镜像兼容性
值得快速合并，属于典型的向后兼容修复。建议关注近期是否有更多 delta 模式相关的兼容性改进入口。
原始 PR · 作者 nanjiangwill · 合并时间 2026-05-26 11:52
引入 delta 权重同步，支持 disk 和 NCCL 传输
值得精读的设计型 PR。模板方法模式和编码器 decoupling 清晰，wire protocol 设计兼顾跨 DC 场景。建议关注 `_bytewise_diff_mask` 和 `_sparse_boundaries` 的高效实现（单次 concat + nonzero + searchsorted），以及 `_flush_bucket` 中 nccl/disk 分支的对称逻辑。
将 GPU 放置验证测试加入 CI
建议快速合并。此 PR 是常规质量保障改进，没有争议点。值得注意的设计决策是将测试放在 CPU 矩阵（`num_gpus: 0`），正确且节省资源。
删除冗余工具文件并修复 Megatron 导入兼容性
建议合并，这是常规的代码清理和兼容性维护，无副作用。
更新文档说明 agentic workflow 集成方式
值得一读，尤其关注 customization 文档中的接口选择表格，它清晰展现了 slime 将 agentic 任务视为数据生成工作流的设计哲学。
参与讨论