Prhub

verl-project/verl

verl: Volcano Engine Reinforcement Learning for LLMs

监控状态:已开启 最近同步:2026-09-16 22:52 同步状态:空闲 下次计划:2026-09-16 23:52
后台正在同步并分析最近 PR,页面会自动刷新并逐步显示最新结果。

PR 列表

更多筛选
2026-07-13
缺陷修复 重要性 7.95 洞察度 6.00

修复 Megatron CP>1 时 MoE aux/z-loss 梯度爆炸

强烈建议使用 Megatron MoE 且 CP>1 的用户合入此 PR。值得关注的设计决策:精确计算路由 token 数的 `_routed_num_tokens` 方法、通过预乘后除抵消的二阶段归一化策略、以及对不合理配置的主动防护。

2026-07-11
2026-07-10
缺陷修复 重要性 5.98 洞察度 4.00

修复 Qwen3-VL 多模态模型 FSDP2 下 vocab_weights 的 device 与 shard 处理

值得精读,尤其是使用 Qwen3-VL 多模态模型的用户。该 PR 体现了一个典型的设计决策:在分布式训练中,即使并行度=1,FSDP2 仍可能产生 `DTensor` 类型的参数,因此在涉及自定义 forward 路径时需显式进行 `DTensor` 检测与全量张量提取,确保与后续运算的类型兼容。

#7008 [doc] refactor: update ascend docker name

原始 PR · 作者 yyyy2000 · 合并时间 2026-07-10 17:41

重构 重要性 4.09 洞察度 2.00

更新 Ascend Docker 镜像命名规范与 CI 触发

该 PR 为简单的 CI 配置和文档更新,变更透明且经过批准,可以直接合并。开发者应了解新的镜像命名规范,并在未来版本升级时更新对应的标签字符串。

功能 重要性 8.96 洞察度 6.00

将 SkipManager 适配到 Trainer V1,支持 rollout TQ 批缓存与重放。

值得精读。该 PR 展示了如何将已有 SkipManager 模式扩展到新的 Trainer 架构,设计上采用装饰器模式实现了低侵入性改造,对理解 V1 Trainer 的数据流和 SkipManager 扩展机制有很好的学习价值。建议关注后续可能的重构(如统一 SkipBase 类)和 CI 集成。

功能 重要性 6.12 洞察度 4.00

添加 HY V3 Megatron GRPO 训练示例与 FLOPs 估算

该 PR 提供了实用的模型支持,值得用户参考。但应留意 `use_mbridge` 的过时问题,建议尽快为 FLOPs 估算函数补充单元测试,并在后续迭代中迁移至原生 Megatron-Bridge 配置。

参与讨论