# THUDM/slime 2026 第 20 周周报 (05-11 至 05-17)

- 仓库：`THUDM/slime`
- 周期：2026-05-11 至 2026-05-17
- 来源 PR：3
- 重点 PR：3
- 生成方式：自动生成
- 原文链接：http://prhub.com.cn/THUDM/slime/reports/2026-05-11-to-2026-05-17

---

## 执行摘要
本周（2026-05-11 至 2026-05-17）THUDM/slime 仓库共合并 3 个 PR，均为高优先级修复与优化，无新功能引入。主要变化集中在训练后端加固和工具调用稳定性上：通过分块梯度归约解决 Megatron 大模型 OOM 问题，系统修复 retool 多轮游走后端状态不同步故障，并快速对齐 CI 合约测试与上游签名变更。整体呈现“修复为主、性能优化为辅”的节奏，对后续大模型训练连续性和工具调用流水线安全有直接提升。

## 本周重点变化
- **Megatron 梯度归约优化 **（#1899，重要性 7.6）：将原有一次拼接全梯度的 all-reduce 改为默认 1 GiB 分块逐片规约，数学等价但彻底消除因内存碎片导致的 OOM，尤其利好百亿参数以上模型训练。修补使用 monkey-patch 方式嵌入，同时处理了 Megatron 两个版本间的属性 / 配置兼容细节。
- **Retool rollout 状态加固 **（#1861，重要性 6.6）：针对四类脱钩场景——陈旧状态残留、token 越界、logprobs 缺失、工具输出过长——分别做重置、上限、中止与裁剪。修复后样本状态一致性增强，但将缺失 logprobs 从静默 fallback 改为显式 abort，属于行为变化，需关注监控。
- **合约测试 CI 修复 **（#1902，重要性 4.1）：因上游修改 rollout_data_postprocess 签名，合约测试未同步导致主分支 CI 持续失败。本 PR 使引用实现、调用代码、HookCase 配置三者对齐，零争议合并，恢复 CI 稳定性。

## 模块与主题趋势
从标签分布（bugfix ×3, configuration ×2, performance、architecture、test 各 1）可见本周绝对重心是 **bugfix + 底层配置适配**。热点模块：
- **Megatron 后端 **（slime/backends/megatron_utils/）：涉及梯度规约机制和跨版本 API 兼容，属于训练核心路径。
- **Retool 示例 **（examples/retool/）：工具调用场景的稳定性提升。
- **测试合约 **（tests/plugin_contracts/）：插件系统接口一致性的维护。
主题上，本周显著强调 **“数据不变量维护”**（retool 重置旧状态、分块规约保证等价性、合约签名对齐）和 **“安全失败”**（宁愿 abort 也不静默产生错误数据），这为后续模块设计提供了可复用的理念。作者方面 jingshenghang 贡献 2 PR 涵盖最核心的梯度补丁与 CI 修复，leofan-lab 则针对 retool 做了深度修复。

## 风险观察
输入的风险标签反映四个主要关注点：
1. **核心训练路径变更**：梯度归约补丁直接修改了 Megatron 内部函数，虽然数学等价，但任何 Megatron 版本升级都可能需要重新适配。建议将该补丁加入 CI 的训练回归测试，并记录对应 Megatron 兼容版本。
2. **缺少测试覆盖**：retool 修复未提供新测试用例，仅依赖现有 CI 和手工验证。鉴于工具调用场景的复杂性，建议后续补充多轮重试、logprobs 缺失等边界情况的单元测试。
3. **行为变化**：retool 修复中将 fallback 改为 abort 属于显式行为变化，虽更安全，但可能改变训练数据分布。需要持续监控 ABORTED 样本比例，如异常升高需调整 max_new_tokens 或报错阈值。
4. **依赖 Megatron 内部 API**：补丁使用了 _get_tensor_model_parallel_group 等私有接口，存在破坏性更新的风险。考虑向上游 Megatron 提交添加标准接口或采用更稳定的如 get_model_parallel_group 替代方案。

## 重点 PR 速览
| PR # | 标题 | 作者 | 重要性 | 核心改动 | 影响与风险 |
|------|------|------|--------|----------|------------|
| #1861 | fix: harden retool rollout against multi-turn / retry desync | leofan-lab | 6.6 | 重置重试样本状态、限制每轮 token、logprobs 缺失时 abort、裁剪过长工具输出 | 提升 retool 训练稳定性；行为变化（abort 增多）需监控；缺少测试覆盖 |
| #1899 | Patch Megatron TP grad coalesce to chunked all-reduce | jingshenghang | 7.6 | 将梯度拼接 all-reduce 改为 1 GiB 分块规约，兼容两版本 API | 解决大模型 OOM；修改了核心训练路径；依赖 Megatron 内部 API，升级有风险 |
| #1902 | Fix CI: update rollout_data_postprocess plugin contract for new call site | jingshenghang | 4.1 | 同步更新合约测试中的参考实现、调用和 HookCase 签名 | 恢复 CI 稳定性；暴露插件系统同步成本低但易遗漏；无功能变更 |

## 后续建议
1. **加强回归测试**：为梯度分块补丁 (#1899) 增加对多种模型规模的吞吐 /OOM 测试，确保不同配置下稳定；为 retool 修复 (#1861) 补充多轮、超长输出等场景的单元测试。
2. **完善风险监控**：在训练监控仪表盘中加入 ABORTED 样本率、retool 重试次数等指标，辅助判断行为变化影响。
3. **上游对齐与文档**：将 Megatron 兼容版本和分块配置以最佳实践形式录入 wiki；同时考虑向 Megatron 社区提交统一 API 提议，降低后续维护成本。
4. **合约变更自动同步**：为插件系统建立接口变更自动通知机制（如 PR 模板或 CI 检查），减少类似 #1902 的 CI 断裂事故。