Prhub

verl-project/verl

verl: Volcano Engine Reinforcement Learning for LLMs

监控状态:已开启 最近同步:2026-09-01 17:42 同步状态:空闲 下次计划:2026-09-01 18:42

PR 列表

更多筛选
2026-07-25
功能 重要性 9.18 洞察度 6.00

扩展分片delta同步:块放置+后端HF导出

值得精读,尤其是对分布式训练权重同步优化感兴趣的工程师。块放置设计思路清晰,契约分离架构有助于可扩展性。建议阅读 `spec.py` 中的 `BlockPlacement` 和 `translate_flat_indices`,以及 `utils.py` 中的 `hf_delta_export` 和 `prime_delta_snapshots`。

2026-07-24

#7140 [docker] chore: Rocm714 doc update

原始 PR · 作者 mingjielu · 合并时间 2026-07-24 23:40

基础设施 重要性 5.77 洞察度 2.00

更新 ROCm 7.14 Docker 构建文档与示例

值得关注的设计决策是将主 Dockerfile 切换为基于预构建基镜像,这显著降低了维护成本。建议精读 Dockerfile.rocm 和 new Dockerfile.rocm702 的结构差异以理解下一步构建策略。对于 AMD 用户,应优先使用更新后的 amd_quick_start.rst 作为起点。

缺陷修复 重要性 5.67 洞察度 6.00

修复 SGLang 权重同步中 NCCL buffer 竞争条件

建议精读此 PR。它展示了一个性能优化与正确性之间的经典权衡:原始启发式为了节省 clone 开销而引入了潜在 bug,最终通过更可靠的 `_base` 属性来区分视图,既保持了性能又保证了正确性。这种设计模式值得在类似的高性能通信代码中推广。

功能 重要性 8.11 洞察度 6.00

Tinker 前向反向保留模型输出供服务器使用

建议精读 FSDP 引擎中通过 non-tensor 数据传递标志的设计模式,以及 MoE 参数转换中按模型类型分发的策略。测试覆盖充分,值得参考。

2026-07-23
缺陷修复 重要性 5.92 洞察度 4.00

隔离 TaskRunner 日志不受 vLLM 影响

PR 小且专注,值得快速合入。方案本身合理(通过自定义命名空间 handler 隔离),可视为最佳实践。建议团队后续统一将其他模块的日志配置也迁移到类似模式。

统一 V1 ReplayBuffer 对过期/DAPO 过滤/失败 rollout 组的驱逐回填

本 PR 值得精读,因为它实现了 DAPO 算法的采样支持,并展示了 ver_l 框架的可扩展设计(类分离、工厂方法、配置驱动)。review 中的技术讨论(P1-P3)对理解工程权衡很有帮助。建议计划使用 DAPO 的团队仔细阅读 PR body 中的配置矩阵,并在实验前确认 `max_num_gen_batches` 的警告已生效。对于 `_dapo_filtered_keys` 的性能优化(缓存)可作为后续改进项。

#7125 [ci] fix: tigger npu ci on the release branch

原始 PR · 作者 tardis-key · 合并时间 2026-07-23 12:03

基础设施 重要性 2.61 洞察度 2.00

新增NPU CI在release分支的触发规则

可快速合并。推荐运维或CI负责人关注此改动是否覆盖所有release分支命名模式,必要时可增加更通用的分支匹配规则(如 `release/**`)。

参与讨论