Prhub

verl-project/verl

verl: Volcano Engine Reinforcement Learning for LLMs

监控状态:已开启 最近同步:2026-09-16 22:52 同步状态:空闲 下次计划:2026-09-16 23:52

PR 列表

更多筛选
2026-06-17
feat 重要性 6.68 洞察度 5.00

修复分离异步 trainer 并启用运行

值得关注:这是分离异步训练器从 stub 变为可运行的关键一步,但功能仍不完整,建议跟进后续 PR 了解完整方案。设计中采用 `start_rank` 传递副本起始编号的做法可作参考。

2026-06-16
功能 重要性 8.60 洞察度 6.00

支持 replay buffer 陈旧性控制策略 drop/wait

值得精读 replay_buffer.py 中的 `_has_enough_samples` 和 `_drop_max_off_policy_samples` 方法,理解两种策略的设计权衡。注意 review 中关于 `parameter_sync_step` 断言和 `global_steps` 安全访问的建议,建议在后续 PR 中跟进修复。同时关注配置迁移对现有训练任务的影响。

缺陷修复 重要性 8.17 洞察度 6.00

修复 Qwen3-MoE NPU 补丁对不同 Transformers 版本的兼容性

建议精读此 PR,特别是 `_qwen3_sparse_moe_routed_forward_npu` 中的版本适配逻辑(gate 输出的类型检测、权重提取分支),以及 `_qwen3_sparse_moe_uses_legacy_block_api` 的检测策略。这些设计模式可推广至其他需要跨版本兼容的场景。

重构 重要性 5.35 洞察度 5.00

重构ROCm Dockerfile,引入ccache和全局构建参数,新增README

建议阅读,尤其是对Dockerfile构建最佳实践感兴趣的人。值得关注的决策包括:在构建参数中平衡灵活性与默认值、ccache在Docker中的集成方式。该PR展示了基础设施重构的典型模式:范围隔离、缓存优化、文档同步。

基础设施 重要性 5.69 洞察度 3.00

新增双节点 Ascend NPU RayJob E2E CI 工作流

建议 CI 维护者仔细检查工作流依赖的基础设施是否稳定,并考虑采纳 review 中关于 shell 脚本健壮性的建议。对于希望了解 verl 如何集成 RayJob 进行多节点测试的开发者,此 PR 提供了一份可参考的实现。

基础设施 重要性 4.64 洞察度 4.00

升级 TRTLLM 基础镜像至 1.3.0rc15,迁移依赖至 PyPI 并固化加速器补丁

**强烈建议修复 `transformers==5.3.0` 版本问题**,将其改为有效的 4.x 版本(如 `4.43.0` 或当前最新稳定版),否则构建必然失败。路径硬编码问题也可一并优化,提升健壮性。除此之外,PR 的依赖迁移和补丁固化方向值得推荐,可减少运行时动态 patch 的开销和失败风险。

参与讨论