Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-08-21
缺陷修复 重要性 5.59 洞察度 4.00

参数解析阶段拒绝非正 rollout 温度,拦截非法 RL 采样配置

值得快速浏览。改动虽小,但体现了“非法配置在参数解析阶段拒绝,而不是在训练逻辑里隐式兜底”的工程决策,PR body 对 greedy 温度为什么不是合法 RL 策略的解释清晰;配合 #2236、#2276 可看到 slime 在参数校验层持续加固的趋势。

缺陷修复 重要性 4.18 洞察度 5.00

修复 OPD 教师温度硬编码为 0 的问题

该 PR 不建议精读,但其讨论过程值得关注,特别是关于 SGLang 温度对 input logprob 影响的澄清,以及最终引导至 PR#2325 的正确修复。

缺陷修复 重要性 5.98 洞察度 5.00

修复 PPO 原地修改 KL 张量导致日志指标失真

值得精读。这是一个典型的「Python 原地修改导致别名污染」bug:表面只改了几行,但根因是共享引用被隐式写入。建议关注两点:一是 out-of-place 修复如何在保持训练语义不变的前提下修正日志数据契约;二是回归测试用 `sys.modules` monkeypatch 构造 megatron 桩的手法,可用于同类依赖重型后端的单测场景。

缺陷修复 重要性 6.25 洞察度 5.00

eval-only 跳过优化器与调度器构建

该 PR 值得精读,尤其是“为什么不用 train_iters=1”的设计权衡。建议在合入后补一条 CPU 侧测试:断言 num_rollout == 0 时 setup_model_and_optimizer 返回 (model, None, None)、create_training_models 不分配 critic,并验证正常训练路径仍构造 optimizer 与 scheduler。

2026-08-20

#2294 cleanup

原始 PR · 作者 zhuzilin · 合并时间 2026-08-20 16:21

重构 重要性 3.79 洞察度 2.00

整理 GLM-5 逐层比较脚本并移除冗余依赖

该 PR 值得快速浏览,核心价值在于目录职责划分与依赖精简。阅读重点:(1) `tests/glm52_layerwise_comparator.py` 与 `test_glm52_6layer_deterministic_e2e.py` 中调用方式的变化;(2) 确认 `ring_flash_attn` 是否确无引用。不建议深入学习,因为不涉及算法或架构改动。

#2216 feat: add backend-aware MUSA support

原始 PR · 作者 ForAxel · 合并时间 2026-08-20 15:11

功能 重要性 9.36 洞察度 7.00

新增加速器抽象层,支持 MUSA 后端并保持 CUDA 兼容

值得精读,尤其 `slime/utils/accelerator/__init__.py` 的选择编排与 `musa_patch` 引导时序、`base.py` 的 `resolve_visible_device_id`(可见设备映射是厂商差异核心)、`reloadable_process_group.py` 的 backend 归一化。建议后续补充“后端接入指南”文档,并规划 MUSA/MCCL 端到端验证(至少一条 SMOKE 路径),以确认 `musa_patch` 引导、权重更新组 `cpu:gloo,musa:mccl` 与 teardown 顺序在真实硬件上的正确性。关注 `is_accelerator_backend` 与 `process_group_backend` 对复合 backend 字符串的处理。

缺陷修复 重要性 5.77 洞察度 4.00

修复旧版 SGLang 参数别名与 router 选项兼容性

值得快速阅读的小型兼容性修复。核心可借鉴点是:跨版本依赖适配时用 `hasattr` 做能力探测并降级为 warning,而不是硬假设 API 恒存在。同时建议关注两个遗留点:`validate_args` 在跳过别名归一化后仍直接访问 `args.sglang_pp_size` 的潜在 `AttributeError`,以及缺失 `disable_health_check` 时 router 健康检查语义变化;若团队需长期支持旧版 SGLang,应补充一个 mock 旧版属性的回归测试。

2026-08-16

#2276 Add args check for --save-debug-train-data

原始 PR · 作者 zhuzilin · 合并时间 2026-08-16 17:46

缺陷修复 重要性 4.94 洞察度 3.00

新增 --save-debug-train-data 与 rollout 路径冲突校验

该 PR 值得快速 review,逻辑简单清晰,测试覆盖到位。可关注点:校验位置是否覆盖所有设置路径(如 `--dump-details` 间接设置),以及是否需要在文档中提及该限制。

参与讨论