Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-08-12
文档 重要性 1.89 洞察度 2.00

在中文 README 生态区新增 Dressage 条目,与英文版对齐。

此 PR 价值有限,不值得精读。它只是简单的文档同步,但体现了维护者保持文档一致性的努力。

#2205 perf: vectorize REINFORCE++ discounted returns

原始 PR · 作者 morluto · 合并时间 2026-08-12 13:36

性能优化 重要性 7.73 洞察度 6.00

向量化 REINFORCE++ 折扣回报计算并复用 GAE 扫描

值得精读。该 PR 展示了如何把 O(T) 串行递归安全地替换为分块并行扫描,并通过“提取通用 helper + 参考实现对照测试”控制重构风险。重点关注 `chunked_discounted_returns` 的 chunk 内扫描与跨 chunk 状态传播设计、右 padding/trim 的数值正确性论证,以及 `chunked_gae` 复用后行为是否保持。合并评审时建议补充一个真实的 context-parallel 集成测试或 GPU 冒烟测试。

缺陷修复 重要性 7.01 洞察度 5.00

修复 filter_long_prompt 混合多模态数据顺序错乱

值得精读:修复点集中、测试设计精巧(用替身与桩避免引入 transformers),是优化引入回归后最小代价恢复正确性的典型样例。数据管线与 VLM 训练相关同学建议细看 filter_long_prompt 的实现与测试写法。

缺陷修复 重要性 6.79 洞察度 5.00

修复数据集路径负索引切片崩溃

该 PR 值得快速阅读,但除非团队经常使用负索引切片,否则不必精读。值得关注的设计决策是「按边界符号分流:非负走流式 `islice`、负边界物化走列表切片」,这是一个务实的兼容性取舍。建议阅读 `slime/utils/data.py` 的 `read_file` 修改和新增测试文件,理解其权衡过程;后续如有大规模数据集使用负切片的场景,可考虑更优方案(如先统计行数再转正索引)。

缺陷修复 重要性 4.70 洞察度 4.00

修复 gpu_id 字符串排序导致 16 卡 GPU 顺序错乱

该 PR 是小而关键的 bugfix,值得精读,尤其是 placement_group.py 中的 sort_key 逻辑。建议合并后补充一个针对多卡排序的单元测试,以覆盖此场景,防止回归。

#2247 fix: forward dual-clip PPO epsilon

原始 PR · 作者 alexqdh · 合并时间 2026-08-12 13:29

缺陷修复 重要性 6.09 洞察度 4.00

转发 eps_clip_c 修复双截断 PPO 未生效

值得快速阅读。改动虽小,但补上了配置与损失路径之间的断点;测试用 AST 检查参数透传的做法在缺少直接导出时可借鉴,但也提示此类『接线 bug』最好通过面向行为的集成测试覆盖。

文档 重要性 2.60 洞察度 2.00

修正 OPD 文档逆 KL 定义并补充采样细节

无需精读,但建议阅读公式部分以支持后续开发。值得关注两点:一是逆 KL 方向的定义符合 Thinking Machines Lab 的标准;二是明确采样误差的说明(单个 `d_t` 可能为负),有助于理解 OPD 的随机性。

参与讨论