修复分离异步 trainer 并启用运行
值得关注:这是分离异步训练器从 stub 变为可运行的关键一步,但功能仍不完整,建议跟进后续 PR 了解完整方案。设计中采用 `start_rank` 传递副本起始编号的做法可作参考。
verl: Volcano Engine Reinforcement Learning for LLMs
修复分离异步 trainer 并启用运行
值得关注:这是分离异步训练器从 stub 变为可运行的关键一步,但功能仍不完整,建议跟进后续 PR 了解完整方案。设计中采用 `start_rank` 传递副本起始编号的做法可作参考。
支持 replay buffer 陈旧性控制策略 drop/wait
值得精读 replay_buffer.py 中的 `_has_enough_samples` 和 `_drop_max_off_policy_samples` 方法,理解两种策略的设计权衡。注意 review 中关于 `parameter_sync_step` 断言和 `global_steps` 安全访问的建议,建议在后续 PR 中跟进修复。同时关注配置迁移对现有训练任务的影响。
原始 PR · 作者 mikequan0425 · 合并时间 2026-06-16 16:00
修复 Qwen3-MoE NPU 补丁对不同 Transformers 版本的兼容性
建议精读此 PR,特别是 `_qwen3_sparse_moe_routed_forward_npu` 中的版本适配逻辑(gate 输出的类型检测、权重提取分支),以及 `_qwen3_sparse_moe_uses_legacy_block_api` 的检测策略。这些设计模式可推广至其他需要跨版本兼容的场景。
Ascend 安装文档增加安装脚本链接
简单文档改进,无需精读。但可视为保持文档与仓库脚本同步的良好实践。
原始 PR · 作者 PeterYang12 · 合并时间 2026-06-16 15:33
重构ROCm Dockerfile,引入ccache和全局构建参数,新增README
建议阅读,尤其是对Dockerfile构建最佳实践感兴趣的人。值得关注的决策包括:在构建参数中平衡灵活性与默认值、ccache在Docker中的集成方式。该PR展示了基础设施重构的典型模式:范围隔离、缓存优化、文档同步。
原始 PR · 作者 xiaohong42 · 合并时间 2026-06-16 15:32
SGLang ROCm 后端开箱即用支持
建议精读讨论中关于 ROCm 设备可见性优先级的部分,对理解 Ray 在 ROCm 上的行为差异非常有价值。设计上值得关注的是将平台特定环境变量迁移到 platform 层的方法。
原始 PR · 作者 wangdongleix · 合并时间 2026-06-16 15:23
新增双节点 Ascend NPU RayJob E2E CI 工作流
建议 CI 维护者仔细检查工作流依赖的基础设施是否稳定,并考虑采纳 review 中关于 shell 脚本健壮性的建议。对于希望了解 verl 如何集成 RayJob 进行多节点测试的开发者,此 PR 提供了一份可参考的实现。
升级 TRTLLM 基础镜像至 1.3.0rc15,迁移依赖至 PyPI 并固化加速器补丁
**强烈建议修复 `transformers==5.3.0` 版本问题**,将其改为有效的 4.x 版本(如 `4.43.0` 或当前最新稳定版),否则构建必然失败。路径硬编码问题也可一并优化,提升健壮性。除此之外,PR 的依赖迁移和补丁固化方向值得推荐,可减少运行时动态 patch 的开销和失败风险。
参与讨论