Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-01 17:42 同步状态:空闲 下次计划:2026-09-01 18:42

PR 列表

更多筛选
2026-06-06
功能 重要性 6.78 洞察度 6.00

引入 FLOPs 感知的微批次调度

值得精读,尤其是调度策略的权衡:token 平衡 vs FLOPs 平衡、近似公式 vs 精确计算。设计清晰,扩展性好。合并者计划将其作为默认调度策略,表明该设计符合长期演进方向。

2026-06-05

#2022 Add docs for external servers

原始 PR · 作者 zhuzilin · 合并时间 2026-06-05 14:03

文档 重要性 4.36 洞察度 2.00

新增 external-rollout-engines 中英文文档

Read if you are considering external rollout engines or need to choose between --sglang-config and --rollout-external-engine-addrs.

#2021 Support update_from_disk

原始 PR · 作者 zhuzilin · 合并时间 2026-06-05 11:55

功能 重要性 9.18 洞察度 6.00

支持完整权重磁盘同步模式

值得精读,尤其关注 `UpdateWeightFromDisk` 的同步流程和参数兼容性设计。配套测试可作为集成测试参考。

2026-06-04

#2020 Accelerate raw HF save with node writers

原始 PR · 作者 zhuzilin · 合并时间 2026-06-04 23:36

性能优化 重要性 7.92 洞察度 6.00

多节点并行写入HF权重shard文件

本 PR 的设计模式值得精读 —— 通过分片和最终合并的思路实现分布式写入,可推广至其他需要并行写入文件的场景。作者在每个关键决策点(文件名唯一、state 合并排序)都做了防御性检查,代码质量较高。需要关注的是如何与外部引擎地址配置协同工作,可参考 #2016。

#2016 Fully support --rollout-external-engine-addrs

原始 PR · 作者 zhuzilin · 合并时间 2026-06-04 22:05

功能 重要性 9.36 洞察度 7.00

全量支持 --rollout-external-engine-addrs 外部引擎

建议精读 `slime/backends/sglang_utils/external.py` 的设计,特别是如何通过 HTTP 自发现外部引擎属性并动态注册到路由器。`slime/ray/placement_group.py` 中外部引擎模式的 GPU 布局调整值得关注,这是将外部资源融入 Ray 集群的典型案例。`slime/backends/sglang_utils/sglang_engine.py` 中的路由器注册重构也值得参考。

#2013 Revert "rename rollout_ids to group_ids"

原始 PR · 作者 zhuzilin · 合并时间 2026-06-04 09:43

重构 重要性 8.16 洞察度 3.00

撤销 rollout_id 到 group_id 的重命名

建议阅读者注意该 PR 与 #1984 的关联,确保后续开发基于正确的命名。同时关注合并冲突的解决。如果之前使用了 `group_id` 的新 API,需要及时迁移回 `rollout_id`。

2026-06-01

#2001 [docs] Add step-by-step debug tutorial

原始 PR · 作者 liyc-ai · 合并时间 2026-06-01 16:43

文档 重要性 3.79 洞察度 2.00

增加 Ray 分布式调试器单步调试教程

建议开发者精读该文档,特别是需要调试分布式训练场景时。文档步骤清晰,可操作性强。合并者快速批准也说明内容可靠。

参与讨论