verl-project/verl · 标签视图

NCCL 引擎新增多发送者中继模式，权重同步提速约 3 倍

值得精读。核心看点：用 Ray 节点 id 作为 NVLink 可达性代理的拓扑决策、中继本地推导分块边界以避免集合通信死锁的设计、以及 root 等待时机与模式耦合的细节。建议重点关注 `_multi_sender_ranks` 与 `build_topology` 的成员判定逻辑、`split_weight_chunks(meta_only=True)` 的复用方案，以及 review 中关于"边界分叉会导致广播永久挂起"的讨论。合并后建议跟进两件事：修正 `multi_sender` 默认值与 docstring、PR 描述不一致的问题；补充多节点与死锁回归测试。

缓存 Megatron-Bridge 导出计划，权重同步每步省约 12.5 秒

值得精读：改动虽仅 17 行，但展示了在 Megatron-Bridge 集成中利用『结构静态元数据缓存』消除每步分布式通信的经典思路，对大规模 Megatron 训练的吞吐优化有直接参考价值。建议重点学习 FP8 豁免与缓存初始化时机的处理；如后续接入 FP8 导出，可以参考该设计补充 FP8 下的缓存方案。

引擎后端导入失败时发警告替代静默跳过

值得快速阅读，改动只有 1 个文件 17 行。关注点： - 警告文本中 `stacklevel=1` 的定位是否准确，以及是否应使用 `stacklevel=2` 指向调用方。 - 是否应该用 `logger.warning` 替代 `warnings.warn`，以便与 verl 现有日志体系对齐。 - 警告噪音是否会造成用户误判，可考虑仅在环境变量显式开启时打印。

为 FSDP1 新增分片保存/恢复 handler，修复 Fully Async 崩溃

值得精读。该 PR 是一个小而清晰的 bugfix，展示了按「参数表示形态」拆分 handler 的设计思路：FSDP1 扁平 Tensor 与 FSDP2 DTensor 不能共用 CPU 保存/恢复工具。建议重点关注 fsdp_utils 中两个新函数的实现细节（barrier、跳过缺失参数、copy_ 语义）以及 engine_workers 中 strategy 分支的改动。但需注意测试缺失，后续应补一个 FSDP1 + fully_async + bypass_mode=False 的回归测试。

修复 TransferQueue 临时事件循环 FD 泄漏

值得精读，特别是事件生命周期管理和资源清理模式。PR 非常精准地修复了一个隐蔽的文件描述符泄漏问题，变更量小但影响大。提出的全局事件循环重构建议值得跟进，但当前修复是正确的紧急修补。

修复 Qwen3 MoE FSDP-vLLM 权重同步兼容性

建议合并并同步考虑添加单元测试（至少验证 `_iter_vllm_compatible_moe_params` 的输入输出等价性），以及添加后端配置选项让用户可以手动覆盖版本阈值。

新增 Open-R1 多模态和 TinyLLaVA-Video 数据预处理及训练脚本

该 PR 提供了完整的多模态数据集集成范例，值得阅读和参考。特别是图像预处理中保留原始字节的方式，以及训练脚本中设备自动检测的写法。但注意奖励函数需用户自行实现，直接运行示例脚本前需创建对应的 reward score 文件。

修复多节点 profile 崩溃

值得合并，修复明确，风险低，测试完备。对于依赖于多节点 profile 的团队，此 PR 修复了严重的运行时崩溃问题。