#1883 fix(qwen3_next): use torch.get_default_dtype() — get_current_dtype do…
原始 PR · 作者 HeatherLiuzh · 合并时间 2026-05-06 14:03
缺陷修复
重要性 5.18
洞察度 2.00
修复 dtype 获取方法名称错误
该 PR 属于简单 bugfix，修复直接，风险低，可以快速合并。无需深度审查。
THUDM/slime
slime is an LLM post-training framework for RL Scaling.
PR 列表
2026-05-06
功能
重要性 4.35
洞察度 3.00
在 rollout 日志中新增 spec 和 prefix cache 指标
建议合入，但建议作者或 reviewer 确认 `_compute_spec_metrics` 和 `_compute_prefix_cache_metrics` 的返回值对日志系统的兼容性（如是否可能返回非 dict 类型）。
缺陷修复
重要性 7.05
洞察度 5.00
修复 Qwen3.6 HF 配置校验 MoE bug
建议精读本 PR，理解 MoE / dense 混合模型的配置校验设计。重点关注 `_has_dense_moe_layers` 的逻辑，以及它在 `_hf_validate_args` 中的语义——它控制是否跳过 dense FFN 尺寸校验。可以考虑以后补充单元测试。
#1882 fix ppo value offload bugs
原始 PR · 作者 lilei199908 · 合并时间 2026-05-06 12:39
缺陷修复
重要性 7.64
洞察度 6.00
修复PPO使用critic时的offload训练bug
建议精读。本PR修复了PPO多角色offload训练中的关键状态管理问题，展示了异步训练中actor与rollout引擎连接维护的典型解决方案：sleep前断开、wake后重建。design_pattern值得参考，特别是disconnect/connect的显式化。另外参数强制绑定的策略也值得讨论——究竟是缺陷修复还是约束收紧，不同团队可能有不同偏好。
#1888 Fix(checkpoint): add resume/pause in save_model() for offload_train (fixes #1886)
原始 PR · 作者 Procrastinatorrrr · 合并时间 2026-05-06 10:13
缺陷修复
重要性 4.89
洞察度 3.00
修复 offload_train 时 checkpoint 保存崩溃问题
建议阅读本 PR 以了解 offload 训练中 checkpoint 保存的生命周期管理。设计上使用统一封装（`wake_up`/`sleep`）管理进程组和显存状态是良好实践，值得在其他类似场景复用。
2026-04-30
功能
重要性 5.53
洞察度 3.00
更新 Megatron-Bridge 并新增 Qwen3.6 测试
建议关注 Bridge 版本切换后的集成测试结果，并验证 Qwen3.6 模型的训练收敛性。该 PR 的测试文件可作为模板，供开发者快速编写新模型的 PD Mooncake 测试。
功能
重要性 8.59
洞察度 6.00
升级 sglang 至 v0.5.10.post1，新增 PD Mooncake 测试与 HF 配置修补
建议重点关注 `megatron_bridge_utils.py` 的新增函数，它们简化了模型加载配置；验证 PD Mooncake 测试的稳定性；升级后建议进行回归测试覆盖现有模型。
2026-04-29
#1878 fix ppo value head load bugs
原始 PR · 作者 lilei199908 · 合并时间 2026-04-29 15:35
缺陷修复
重要性 8.35
洞察度 6.00
修复 PPO 价值头权重加载 bug
建议精读本 PR：它修复了 PPO 训练流程中一个关键的隐蔽 bug，涉及模型 checkpoint 加载、动态结构检测与自动修复的设计模式。同时需关注 Copilot 提出的性能优化和测试覆盖建议，建议在后续迭代中补充。
参与讨论