Prhub

THUDM/slime

slime is an LLM post-training framework for RL Scaling.

监控状态:已开启 最近同步:2026-09-18 14:47 同步状态:空闲 下次计划:2026-09-18 15:47

PR 列表

更多筛选
2026-09-18
2026-09-03
缺陷修复 重要性 7.38 洞察度 6.00

修复 agent 路径中通过 router 中止 SGLang 请求的失效问题。

本 PR 修复了一个关键的资源泄露问题,虽然变更不大,但对 agent 功能的正确性很重要,值得精读。特别关注 abort 逻辑的兼容性处理(404 时直接 abort)和错误处理。建议后续补充自动化测试以覆盖 router 和直连两种场景。

#2272 feat: support streaming external rollouts

原始 PR · 作者 Aphoh · 合并时间 2026-09-03 14:42

功能 重要性 9.18 洞察度 6.00

新增 SGLang 外部 rollout 的流式响应支持与请求级中止机制。

该 PR 值得精读。它不仅仅是添加了一个新功能,更重要的是重新设计了 rollout 中止的生命周期管理,将其从单一的服务器级中止细分为请求级和服务器级两种模式,提高了系统的灵活性和资源效率。`SGLangStreamAccumulator` 的设计清晰地分离了流处理逻辑,是处理复杂流式数据的好范例。测试的全面性(26 个参数化用例 + 端到端验证)也值得学习。建议关注请求级中止的实现模式以及 `replace_call_state` 标志如何处理完整的 top-p 元数据快照。

2026-08-28

#2334 [release] bump to v0.3.2

原始 PR · 作者 zhuzilin · 合并时间 2026-08-28 10:17

基础设施 重要性 8.78 洞察度 5.00

发布 v0.3.2,新增 SGLang 确定性补丁与发布校验脚本

建议负责构建与发布的同学精读 `check_release.py` 与 `build_conda.sh`:前者用 AST/正则做交叉校验的思路简洁可靠,可直接作为发布门禁;后者集中体现了 conda/Docker 双路径对齐的维护成本。对于关心 FP8 推理的工程师,`sglang-deterministic.patch` 中 UE8M0 scale 与 SiLU 舍入的处理与近期 PR#2327 的 FP8 开关联动,值得深入研究。该 PR 无需逐行审查补丁,但应确认补丁与上游 commit 固定一致。

2026-08-26

#2330 [docs] fix out-dated doc

原始 PR · 作者 zhuzilin · 合并时间 2026-08-26 15:23

文档 重要性 7.21 洞察度 5.00

修复过期文档并新增文档一致性测试

值得精读测试文件 `tests/test_docs_consistency.py` 的设计思路,它用不到 100 行代码自动守护了全仓库文档的链接和命令有效性,可复用到其他仓库;`docs/conf.py` 的 `_sync_examples` 变更也值得关注,它展示了如何让示例文档引用真实文件而非仅有 README。若团队有类似文档漂移痛点,可将此 PR 作为模板参考。

#2327 feat: allow forcing UE8M0 FP8 scales

原始 PR · 作者 zhuzilin · 合并时间 2026-08-26 14:39

功能 重要性 6.88 洞察度 5.00

新增 --force-fp8-ue8m0-scale 开关,强制 UE8M0 量化

值得精读。重点学习如何将运行时依赖与用户强制开关解耦,以及如何在参数层提供灵活性。建议补充文档并增加对 `_quantize_param` 分支的测试。

2026-08-25

#2326 [doc] update doc

原始 PR · 作者 zhuzilin · 合并时间 2026-08-25 13:32

文档 重要性 2.70 洞察度 3.00

更新 README 与 CONTRIBUTING 文档,补充代码阅读路线

本 PR 为纯文档更新,价值不高,但其中的“代码阅读路线”对新手有参考意义,值得新贡献者阅读,以快速把握 slime 的整体架构。

#2323 [cleanup] Refactor rollout.py

原始 PR · 作者 zhuzilin · 合并时间 2026-08-25 11:06

重构 重要性 9.18 洞察度 6.00

重构 rollout.py,拆分 SGLang 部署逻辑至 sglang_utils 子模块

值得精读。本 PR 是典型的「大文件拆分」重构示范,展示了如何将散落的部署逻辑按职责边界重新聚合为 engine-group / deployment / disaggregation 三层。重点关注 engine_group.py 中 GPU 槽位校验逻辑(`required_gpu_slots` 判断)和 deployment.py 中 router 的启动与复用策略,这些是后续排查部署问题的基础。

参与讨论