修复 GLM4.7 在 sglang v0.5.12 下的运行问题
建议项目组其他成员了解变更,尤其是需要维护 GLM4 系列模型的同学。可通过此 PR 学习 patch 中的条件模型初始化技巧。
slime is an LLM post-training framework for RL Scaling.
修复 GLM4.7 在 sglang v0.5.12 下的运行问题
建议项目组其他成员了解变更,尤其是需要维护 GLM4 系列模型的同学。可通过此 PR 学习 patch 中的条件模型初始化技巧。
细化 re-tokenization 问题文档说明
该 PR 值得精读,特别是对于使用 coding_agent_rl 进行多轮训练的用户。文档清晰解释了 token 级训练的核心设计原则和正确性保证机制。
修复 sglang 补丁中 mooncake offload 和索引问题
建议合并,修复了重要的问题,且改动经过测试。
修复 sglang v0.5.12 中 mooncake offload 的 deregister 逻辑
建议精读补丁文件中 `deregister_buffer_to_engine` 的改动,理解嵌套列表的处理方式。对于 mooncake offload 的维护者,可考虑后续统一规范 `state_data_ptrs` 的数据结构以避免类似问题。
新增 raw mode 下 --save-hf 直接保存 HF 权重
建议阅读 hf_checkpoint_saver.py 中的 save_hf_model_direct 和 _SafetensorShardWriter 实现,这是典型的 Megatron → HF 权重重排和分片模式。如果团队有自定义 checkpoint 需求,可参考此设计。测试文件 test_hf_checkpoint_saver.py 也有助于理解预期行为。
新增 CI 检查 train_rollout_logprob_abs_diff
该 PR 变更极小且直观,无需精读。但可关注后续 CI 中该断言是否稳定,若频繁误报需调整阈值或检查根源。
原始 PR · 作者 hxy771126-design · 合并时间 2026-05-28 13:56
添加 FlashQLA 后端并跳过通信内存检查
值得精读,尤其是 `reloadable_process_group.py` 中基于 profiling 数据选择性跳过内存检查的设计决策,以及 `qwen_gdn_backend.py` 中严格的运行时校验模式。后续在添加新模型后端时可以参考此抽象。
修复默认 rollout_id 使用 sample.index 的问题
该 PR 修复了一个影响训练正确性的隐蔽 bug,值得精读。关注点在于 `_convert_samples_to_train_data` 中 `rollout_ids` 的生成逻辑变化,以及 `sample_indices` 与 `rollout_ids` 的分离设计。建议合入,并添加对应测试以覆盖 compact 路径。
参与讨论