Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-08-03

#2249 Remove --train-memory-margin-bytes

原始 PR · 作者 zhuzilin · 合并时间 2026-08-03 19:54

重构 重要性 5.62 洞察度 2.00

移除 --train-memory-margin-bytes 参数及相关内存 margin 配置

该 PR 变更简单直接,不建议作为重点精读对象;但它展示了如何清理已废弃或不再适用的训练参数,以及参数移除时连带处理校验、actor 初始化和示例脚本的完整配套流程。关注点在于:确认 torch_memory_saver 默认 margin 是否满足 Slime 的 offload_train 需求,以及是否已在文档中移除该参数说明。

#2248 Support PYTORCH_ALLOC_CONF

原始 PR · 作者 zhuzilin · 合并时间 2026-08-03 19:38

功能 重要性 4.35 洞察度 3.00

PYTORCH_ALLOC_CONF 支持,隔离 SGLang

改动小但有针对性,结合 colocation 显存优化线(#2180 等)值得快速阅读。关注点:环境变量隔离位置是否合理,以及 Dockerfile 依赖锁定策略——建议后续改为固定 commit 或构建产物校验,避免构建漂移。

2026-07-23

#2228 [docker] upgrade sglang to v0.5.15.post1

原始 PR · 作者 zhuzilin · 合并时间 2026-07-23 16:26

基础设施 重要性 8.41 洞察度 6.00

SGLang 升级至 v0.5.15.post1,同步更新 Docker 构建与 patch

本 PR 适合所有使用 slime Docker 镜像的团队精读,尤其是 `arguments.py` 中的参数兼容模式和 `sglang_engine.py` 的默认值覆盖策略值得在设计迁移时借鉴。建议 merge 前运行完整 CI(包括 offload、disagg 测试组合),并确认无回归。

2026-07-20

#2223 Fix --save-hf

原始 PR · 作者 zhuzilin · 合并时间 2026-07-20 17:38

缺陷修复 重要性 5.29 洞察度 4.00

修复 --save-hf 的 HuggingFace 权重转换逻辑

值得合并,修复了明显 bug。建议同步检视相关测试覆盖。

2026-07-19

#2210 Update qwen3-4B.md

原始 PR · 作者 HelloWorldLTY · 合并时间 2026-07-19 10:23

文档 重要性 1.54 洞察度 1.00

修复文档中两处文字错误

快速合并即可,无需额外审查。该 PR 可作为新手贡献文档的良好示例。

#2220 Optimize update weight

原始 PR · 作者 zhuzilin · 合并时间 2026-07-19 10:16

性能优化 重要性 9.00 洞察度 6.00

优化 MoE 权重更新,引入专家路由跳过非专家转换

建议架构师和训练引擎维护者仔细阅读 `expert_routing.py` 中的拓扑差分检测和路由规划逻辑,以及 `update_weight_from_tensor.py` 中如何组合选择性转换。测试部分仍可加强,特别是多节点异构拓扑场景。

2026-07-15

#2208 Support reloading the default process group

原始 PR · 作者 zhuzilin · 合并时间 2026-07-15 11:34

功能 重要性 8.98 洞察度 7.00

支持 NCCL WORLD 进程组的销毁与重新加载

建议深入阅读 slime/utils/reloadable_process_group.py 中的实现,特别是 _destroy_default_nccl_process_group 和 _reload_default_process_group 的设计模式:利用 Gloo 组作为同步和过渡、使用 PrefixStore 保证 store 无冲突、通过 generation 字段保证唯一性。这些是分布式系统中重建通信组时的常用技巧。同时关注环境变量逃生口的设计。

2026-07-07

#2185 Support routed_experts_start_len

原始 PR · 作者 zhuzilin · 合并时间 2026-07-07 16:14

功能 重要性 5.86 洞察度 4.00

支持 routed_experts_start_len 处理部分专家路由

此 PR 改动虽小,但涉及对 routed experts 数据拼接逻辑的扩展,对于理解分块解码场景下的数据流有帮助。建议阅读 `slime/utils/types.py` 中的新增拼接逻辑;`actor.py` 中的单行改动可视为对 routing replay 的完善。

参与讨论