执行摘要
本 PR 为 slime 训练框架新增了 external rollout engines 的详细文档,包括决策路线图、配置指南以及与现有 --sglang-config 的关系说明。文档有中英文两个版本,并更新了索引和交叉引用。
功能与动机
External rollout engine 是由外部系统启动的 SGLang engine,不在 slime 训练任务内管理。用户需要判断何时使用 --rollout-external-engine-addrs 以及选择哪种权重同步方式。这篇文档回答了这些问题,帮助用户根据网络拓扑、硬件兼容性和权重同步需求做出选择。
实现拆解
- 新增
docs/en/advanced/external-rollout-engines.md 和 docs/zh/advanced/external-rollout-engines.md,各约 119 行,包含:
- 决策表格:根据场景推荐入口。
- External engine 的基本使用方法。
- 与
--sglang-config 的对比和互斥关系。
- 环境与硬件解耦说明(disk transport 下可跨厂商)。
- Update from disk 和 delta weight sync 的适用场景。
- 修改
delta-weight-sync.md(中英文各 1 行),增加 Cursor Composer 2 技术报告作为参考。
- 修改
sglang-config.md(中英文各 2 行),增加指向新文档的交叉链接。
- 更新
docs/en/index.rst 和 docs/zh/index.rst,在目录和用例入口中添加新页面。
- 更新
README.md 和 README_zh.md,在功能列表中提及 external rollout engines。
(本 PR 不涉及产品代码变更,无关键源码片段。)
评论区精华
本 PR 未收到 review 评论。
风险与影响
- 风险:文档变更不引入代码风险,但需确保内容准确。作者同时也是相关功能(PR #2016、#2021)的实现者,技术准确性有保障。
- 影响:对计划使用 external rollout engines 的用户有较高参考价值,对系统无影响。
关联脉络
- PR #2016 实现了
--rollout-external-engine-addrs,本文档提供了该功能的使用指南。
- PR #2021 实现了
update_from_disk 权重同步,本文档在 external 场景下给出了 disk transport 的推荐路径。
- 此前已有
sglang-config 文档(PR #1998 等),本文档与之形成互补,帮助用户在不同配置间做选择。
参与讨论