verl-project/verl · 标签视图

修复 GLM-5.2 Ascend 示例脚本：关闭 checkpoint 严格校验并更新依赖 refs

值得快速浏览，但无需精读。该 PR 是典型的 recipe 维护类变更，核心价值在于两点：一是学会在示例脚本中通过 `checkpoint.strict=False` 处理权重冗余/缺失场景；二是注意依赖 ref 与镜像栈的版本对齐。可作为 Ascend 示例脚本维护的参考。

更新 Qwen3.5-35B GRPO 示例脚本的序列长度和训练参数。

该 PR 值得精读，特别是对于负责维护训练示例和配置的工程师。虽然实现简单，但它展示了一个针对特定模型（Qwen3.5-35B）、特定后端（FSDP-Turbo）、特定硬件（NPU）和特定任务（长上下文 GRPO）的完整训练配置调整范例。关键的设计决策在于参数间的耦合调整（如增大序列长度后相应调整 `max_num_batched_tokens` 和 `val_before_train` 等流程控制）。

新增 Qwen3.5-2B 对策略蒸馏 FSDP 双平台脚本

值得精读的人群是需要在 GPU/NPU 双平台跑通 on-policy distillation 的用户，可将其作为 OPD 示例模板；关注 `DEVICE` 自动探测、NPU 环境变量分支和 uv gate 的组合方式。核心代码无改动，评审价值主要体现在示例脚本的可维护性与仓库惯例一致性上。

更新 30B veomni 脚本的专家并行配置

该 PR 为低优先级的配置调整，不值得精读。可留意其将专家并行大小参数化并默认调整为 8 的做法，这反映了 veomni 在 NPU 上对专家并行的偏好。

DeepSeek V4 支持 QAT bf16 伪量化训练

该 PR 值得关注，因为它引入了新的训练模式（QAT）并增强了 GSPO 损失的灵活性。建议补充单元测试覆盖新配置项和损失聚合逻辑，并确认与 VeOmni 侧 PR 的兼容性。

新增 MindSpeed-Bridge 后端，支持 Ascend GDN 优化

该 PR 值得快速浏览：它展示了如何在 verl 示例脚本中通过环境变量开关引入新后端，以及 Hydra `+` 前缀键的用法。若团队正在规划 Ascend 后端支持，可将其作为脚本层参考；但无需精读，也没有核心源码逻辑值得深入分析。

Slurm 示例新增 RAY_NETWORK_INTERFACE 配置，支持绑定指定网卡

值得快速浏览，特别是需要在 Slurm 多网卡集群上部署 verl 的团队。本 PR 的设计体现了「配置化优先、默认行为不变」的原则，通过 srun 动态解析每节点 IP 并显式绑定，确保了正确性和可诊断性。对于示例代码审查者，可关注 srun --overlap 的兼容性和错误处理路径。

VeOmni 引擎新增 DeepSeek V4 支持与 MXFP4 多后端回灌

值得精读。三个设计点有复用价值：一是 `_build_ops_implementation_config` 的「按已安装依赖字段动态过滤 + 显式设置即报错」版本解耦范式；二是 `_mxfp4_staging_data` 通过字节数等价的 view/dtype 重解释复用 live storage，把回灌的额外内存从「整份 MoE」降到「1/16 的 scale 缓冲」；三是回灌流程结束后用 leftover 检查兜底，任何不经过 `replace_parameter` 的路径都会显式失败。需要跟进的事项：为 Marlin 回灌与 converter 路径补专项测试、评估 `max_num_seqs` 全局默认调整、补充与 Megatron 的性能对比数据。