#6876 [ci] chore: add Ascend multinode nightly CI
原始 PR · 作者 wangdongleix · 合并时间 2026-06-29 14:27
添加 Ascend 多节点 nightly CI
值得关注的是 RayJob 提交模式的设计,可复用类似场景。但脚本和配置细节较贴合内部 CI 环境,外部参考价值有限。
verl: Volcano Engine Reinforcement Learning for LLMs
原始 PR · 作者 wangdongleix · 合并时间 2026-06-29 14:27
添加 Ascend 多节点 nightly CI
值得关注的是 RayJob 提交模式的设计,可复用类似场景。但脚本和配置细节较贴合内部 CI 环境,外部参考价值有限。
新增 rollout MoE 负载均衡指标并移除旧 VeOmni 监控
适合团队精读,特别是 `RolloutMoELoadBalanceMetricsAccumulator` 的设计(跨步聚合、配置驱动)以及为兼容不同配置嵌套的专家数推断策略。建议关注其如何通过 accumulator 模式避免每次训练步都计算和传输大量数据,而是批量处理。对需要实现类似指标聚合的模块有参考价值。
修复 external_lib 类型注解以支持字符串列表
简单的一次类型放宽,适合快速合并。开发者无需精读,但可关注 OmegaConf 中类型注释的最佳实践:使用 `Any` 替代联合类型以规避框架限制。
原始 PR · 作者 Mecoli1219 · 合并时间 2026-06-26 17:03
修复 fused kernel 在 no padding 模式下的布局不匹配崩溃
建议精读以下两点:(1) 理解 fused kernel 输出与 no padding 模式下 nested tensor 布局的适配逻辑;(2) 注意 boolean mask 实现相对于 `narrow+unbind+cat` 的性能优势,可推广到类似场景。
修复 Ascend 启动脚本的参数和拼写错误
简单维护性 PR,无需精读。对于在 Ascend 上复现实验的用户,建议同步更新脚本。
修正 typo:clip_cvo_ratio → clip_cov_ratio
可快速合并。该 PR 虽小,但提高了代码质量,值得其他开发者借鉴——保持文档与代码一致。
修复 rollout_is_seq_fraction 无法跳变
建议合并。虽然改动小但修复了一个真实死指标,便于用户监控极端权重比例。
修复 Megatron-SGLang Ascend CI 安装步骤
可快速合入,无需深入 review。
参与讨论