#1284 Nemotron RL support
原始 PR · 作者 Zhichenzzz · 合并时间 2026-08-05 13:49
新增 Nemotron-3-Ultra 混合架构 RL 训练支持
值得精读。重点关注三处设计决策:(1) MTP labels 预移位的通用性——它修正了 Megatron-core MTP 损失的 off-by-one 语义,是训练正确性修复的范例;(2) 对上游 PR 的显式依赖——shim 直接采用 Megatron-LM PR#51 的新签名,展示了跨仓库协同改动的依赖管理方式,同时也提示了版本对齐风险;(3) 工程减法——离线转换工具与 ipc_collect 均经 review 论证后删除,最终改动面(+476/-4)远小于过程版本,体现了对最小变更的坚持。
参与讨论