Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-05-29

#1977 [docker] fix GLM4.7 flash for sglang v0.5.12

原始 PR · 作者 zhuzilin · 合并时间 2026-05-29 17:21

缺陷修复 重要性 5.30 洞察度 4.00

修复 GLM4.7 在 sglang v0.5.12 下的运行问题

建议项目组其他成员了解变更,尤其是需要维护 GLM4 系列模型的同学。可通过此 PR 学习 patch 中的条件模型初始化技巧。

文档 重要性 3.21 洞察度 4.00

细化 re-tokenization 问题文档说明

该 PR 值得精读,特别是对于使用 coding_agent_rl 进行多轮训练的用户。文档清晰解释了 token 级训练的核心设计原则和正确性保证机制。

#1973 [docker] fix patch

原始 PR · 作者 zhuzilin · 合并时间 2026-05-29 13:50

缺陷修复 重要性 5.21 洞察度 3.00

修复 sglang 补丁中 mooncake offload 和索引问题

建议合并,修复了重要的问题,且改动经过测试。

#1972 [docker] fix mooncake offload in sglang v0.5.12

原始 PR · 作者 zhuzilin · 合并时间 2026-05-29 13:38

缺陷修复 重要性 3.55 洞察度 2.00

修复 sglang v0.5.12 中 mooncake offload 的 deregister 逻辑

建议精读补丁文件中 `deregister_buffer_to_engine` 的改动,理解嵌套列表的处理方式。对于 mooncake offload 的维护者,可考虑后续统一规范 `state_data_ptrs` 的数据结构以避免类似问题。

2026-05-28

#1969 support --save-hf for raw mode

原始 PR · 作者 zhuzilin · 合并时间 2026-05-28 16:25

功能 重要性 9.18 洞察度 5.00

新增 raw mode 下 --save-hf 直接保存 HF 权重

建议阅读 hf_checkpoint_saver.py 中的 save_hf_model_direct 和 _SafetensorShardWriter 实现,这是典型的 Megatron → HF 权重重排和分片模式。如果团队有自定义 checkpoint 需求,可参考此设计。测试文件 test_hf_checkpoint_saver.py 也有助于理解预期行为。

测试 重要性 4.90 洞察度 2.00

新增 CI 检查 train_rollout_logprob_abs_diff

该 PR 变更极小且直观,无需精读。但可关注后续 CI 中该断言是否稳定,若频繁误报需调整阈值或检查根源。

功能 重要性 9.07 洞察度 6.00

添加 FlashQLA 后端并跳过通信内存检查

值得精读,尤其是 `reloadable_process_group.py` 中基于 profiling 数据选择性跳过内存检查的设计决策,以及 `qwen_gdn_backend.py` 中严格的运行时校验模式。后续在添加新模型后端时可以参考此抽象。

2026-05-27

#1965 Don't use sample.index as default rollout_id

原始 PR · 作者 zhuzilin · 合并时间 2026-05-27 20:19

缺陷修复 重要性 6.09 洞察度 5.00

修复默认 rollout_id 使用 sample.index 的问题

该 PR 修复了一个影响训练正确性的隐蔽 bug,值得精读。关注点在于 `_convert_samples_to_train_data` 中 `rollout_ids` 的生成逻辑变化,以及 `sample_indices` 与 `rollout_ids` 的分离设计。建议合入,并添加对应测试以覆盖 compact 路径。

参与讨论