Prhub

verl-project/verl

verl: Volcano Engine Reinforcement Learning for LLMs

监控状态:已开启 最近同步:2026-09-01 17:42 同步状态:空闲 下次计划:2026-09-01 18:42

PR 列表

更多筛选
2026-08-18

#7454 [recipe] chore: Add in news for verl-Tinker

原始 PR · 作者 wyettzeng · 合并时间 2026-08-18 09:26

文档 重要性 1.20 洞察度 1.00

README 新闻区新增 VeRL-Tinker 发布公告

该 PR 为纯文档信息同步,不值得精读。可留意其关联的 recipe 子模块(`verl_tinker`)后续是否有独立的功能性 PR,那才是真正的技术内容。

2026-08-17
功能 重要性 9.00 洞察度 6.00

新增 fsdp_turbo 后端引擎,支持 FSDP+EP+CP 混合并行

值得精读,重点看三处设计:一是 `_build_module` 中临时把 `ulysses_sequence_parallel_size` 置 1 以规避 verl monkey patch 与 Turbo CP split 冲突的写法;二是 offload 职责划分(禁用 verl 自有 offload 交由 fsdp_turbo 统一处理,避免双重 offload);三是 review 推动的"新引擎独立成文件"组织约定,对 `transformer_impl.py` 这类大文件的演进有借鉴意义。

#7127 [BREAKING][misc] feat: uv integration

原始 PR · 作者 ETOgaosion · 合并时间 2026-08-17 14:10

基础设施 重要性 9.36 洞察度 7.00

全项目切换到 uv 统一管理多后端依赖与安装流程

值得精读,这是 verl 包管理架构的里程碑级迁移。重点看三处设计:manage_envs.py 的 universal lock + conflicts 方案(一个锁文件、运行期 materialize 一个无冲突组合)、prefetch 与 Docker 镜像“先烘焙缓存、运行时离线 sync”的配合、以及用 check_uv_gpu_only.py 静态分析强制 GPU/NPU 使用路径分离的做法。建议同时关注后续对 trtllm / veomni(cu12.9 世界)恢复解锁的演进,以及 `DEVICE:-gpu` 默认值对 NPU 用户的隐性要求。

#7444 [ci] chore: Update ci image

原始 PR · 作者 lxb007981 · 合并时间 2026-08-17 14:08

基础设施 重要性 2.79 洞察度 2.00

CI 更新镜像并迁移到 A2 实例

该 PR 为简单的 CI 配置更新,值得快速浏览,但无需深入精读。关注 CI 是否成功运行验证即可。

缺陷修复 重要性 6.40 洞察度 4.00

移除 dummy 格式覆盖,修复分离式 rollout 权重广播

值得精读。该 PR 展示了一个跨后端(vLLM/SGLang/TRT-LLM)共有的配置契约:`load_format=dummy` 在分离式训练中代表“跳过加载、等广播”。建议关注:1) 三个服务器如何共用相同 guard 逻辑(横向对比);2) 移除 guard 后如何通过测试和示例守住契约边界;3) FP8 例外被删除的后续验证。

缺陷修复 重要性 6.19 洞察度 4.00

修复 vLLM 权重同步前未恢复权重映射的回归

值得精读。本 PR 展示了同一抽象(sleep_level)在不同推理后端(SGLang / vLLM)下的语义差异,以及框架层如何通过后端分支规避正确性问题。对维护 LoRA 同步链路或计划支持新推理后端的工程师有直接参考价值,改动虽小但蕴含重要的后端适配思维。

基础设施 重要性 3.51 洞察度 3.00

CODEOWNERS 新增维护者并修复五条失效路径

值得维护者快速阅读:它展示了一种低成本的仓库治理方式(用提交统计对齐 owner,并显式验证 CODEOWNERS 死路径)。对普通贡献者来说,重点是理解作者提出的路径失效诊断方法和 glob 语义陷阱(CODEOWNERS 与 .gitignore 的目录递归行为差异)。若团队经常发生目录重命名,可考虑把类似的机械校验纳入 CI 防止再次静默失效。

2026-08-14
功能 重要性 9.18 洞察度 6.00

路由索引改 int16,支持超 255 专家并重构回放

值得精读。亮点包括:NCCL 无 int16 时的 uint8 位视图通信模式、用 duplicate-top-k 检测替代显式 replay_mask 的设计取舍、controller 与 engine 的职责划分(controller 不感知形状)。建议阅读时对照 `tests/utils/test_megatron_router_replay_dcp.py` 理解通信层约束,并对照 `verl/workers/utils/padding.py` 的删除逻辑确认数据契约变更范围。

参与讨论