Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-05-18

#1916 [docker] update torch memory saver

原始 PR · 作者 zhuzilin · 合并时间 2026-05-18 12:15

基础设施 重要性 2.07 洞察度 1.00

更新 Docker 中 torch_memory_saver 版本

简单依赖升级,可快速合并。建议关注该版本更新带来的功能变化。

2026-05-11
缺陷修复 重要性 6.58 洞察度 5.00

加固 retool 多轮 rollout,防止样本状态不同步

建议使用 retool 的团队立即合并此 PR,并关注 ABORTED 样本率的监控指标。该 PR 的设计思路(在关键点维护数据不变量并优先安全中止而非静默错误)值得在其他自定义 rollout 生成函数中借鉴。

缺陷修复 重要性 7.62 洞察度 6.00

将 Megatron TP 梯度归约从单一大 buffer 改为分块 all-reduce,避免大模型下 OOM

建议精读此 PR,尤其是 `_split_into_chunks` 贪心分块策略、`_grad_attr` 和 `_fsdp_flag` 的跨版本兼容写法,以及 monkey-patch 嵌入方式。这些设计模式可复用于其他 Megatron 内部函数修补场景。

缺陷修复 重要性 4.11 洞察度 4.00

修复测试合约未同步新参数签名

值得快速合并。该 PR 是典型的 CI 同步修复,无设计争议。对于关注插件系统的开发者,可借此理解 Slime 的合约测试机制:每个插件点都有对应的 `reference_*` 函数、`invoke_*` 调用和 `HookCase` 配置,用于在 CI 中验证调用签名稳定性。

2026-05-09
缺陷修复 重要性 5.29 洞察度 4.00

修复分布式 POST 每 actor 并发计算错误

值得合并:一个明确的 bugfix,逻辑正确,改动精简,风险低。建议阅读 `slime/utils/http_utils.py` 中的 `_init_ray_distributed_post` 函数,理解 actor 拓扑与并发分配的关系。

#1897 Migrate internal feature

原始 PR · 作者 zhuzilin · 合并时间 2026-05-09 15:21

功能 重要性 7.82 洞察度 7.00

新增训练进度条和 on-policy 优化

值得精读,特别是 on-policy 跳过 logprob 的条件设计,展示了如何在保证正确性的前提下进行性能优化。建议添加单元测试覆盖关键条件组合。

2026-05-06

#1891 Only allow --allgather-cp for DSA model

原始 PR · 作者 zhuzilin · 合并时间 2026-05-06 14:36

缺陷修复 重要性 7.55 洞察度 6.00

限制 --allgather-cp 仅用于 DSA 模型,防止 token 错乱

值得精读。展示了从静默 bug 报告到前置验证修复的完整过程。重点学习 _validate_allgather_cp_supported 函数的防御性设计(快速返回、明确异常、可扩展白名单),以及测试模块如何通过 monkeypatch 模拟重型依赖进行纯单元测试。

#1877 Fix location error in install script

原始 PR · 作者 selfanti · 合并时间 2026-05-06 14:19

缺陷修复 重要性 2.42 洞察度 2.00

修复安装脚本中 SLIME_DIR 路径错误

该 PR 为一个简单直接的 bug 修复,逻辑清晰,可安全合并。对于不直接使用 build_conda.sh 的开发者影响很小。

参与讨论