Prhub

verl-project/verl · 标签视图

标签列表

聚合结果

recipe 相关 PR

2026-09-09
功能 重要性 5.53 洞察度 3.00

新增 GLM-5.2 模型在 Ascend NPU 上的 32 节点 GRPO 训练示例脚本。

该 PR 是一个有价值但无需精读代码的示例脚本提交。**值得精读的程度较低**,因为变更仅为一个 Shell 脚本,不涉及核心逻辑。**但值得关注的设计决策和配置**包括: 1. 如何为 GLM-5.2 这类 MoE 模型在 32 节点规模下配置专家并行(EP=64)和推理并行(INFER_EP=64)。 2. 针对 Ascend NPU 优化的 Megatron 配置细节,如 `use_fused_rmsnorm=True`,`experimental_attention_variant="dsa"`。 3. GRPO 算法的具体参数设置(如 `clip_ratio_low=0.2`, `clip_ratio_high=0.28`),这反映了该训练配方的具体调优思路。

2026-04-20
fix 重要性 2.35 洞察度 4.00

修复NPU训练脚本参数,移除冗余环境变量并修正专家并行配置。

该PR值得快速浏览以了解NPU训练脚本的配置细节,但不需要深入研读。重点关注review中关于`enable_expert_parallel`参数无效的讨论,这揭示了vLLM引擎配置参数的实际生效机制。对于需要在NPU上启用专家并行的用户,应该参考review建议设置`expert_parallel_size`参数。