Prhub

#6858 [misc] chore: fix npu parameters and typo

原始 PR 作者 hustmf 合并时间 2026-06-26 16:55 文件变更 2 提交数 2 评论 0 代码增减 +4 / -4

执行摘要

修复 Ascend 启动脚本的参数和拼写错误

PR body 中明确说明是 fix npu parameters and typo,解决 Ascend 环境下启动脚本的参数配置错误。

简单维护性 PR,无需精读。对于在 Ascend 上复现实验的用户,建议同步更新脚本。

讨论亮点

无人工 review 讨论,仅由 Gemini Code Assist 自动评论总结变更,以及由 wucong25 直接批准。

实现拆解

  1. 修改 PPO 启动脚本 (examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh):

    • 将 data.train_batch_size 从 32 改为 64,actor_rollout_ref.actor.ppo_mini_batch_size 从 32 改为 64,增大批量以提升吞吐。
    • 将 actor_rollout_ref.rollout.calculate_log_probs 从 True 改为 False,禁用不必要的 log-prob 计算。
  2. 修改 GRPO 启动脚本 (examples/ascend_extras/grpo_trainer/run_qwen3_5_122b_a10b_32k_megatron.sh):

    • 将环境变量 NDEVICES_PER_NODE 更正为 NPUS_PER_NODE,修正拼写错误。
文件 模块 状态 重要度
examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh Ascend 示例 modified 3.01
examples/ascend_extras/grpo_trainer/run_qwen3_5_122b_a10b_32k_megatron.sh Ascend 示例 modified 2.31

关键源码片段

examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh configuration

修改了 batch size 和 log-prob 计算开关,影响训练吞吐和 PPO 行为。

# 在 run_qwen3_8b_fsdp.sh 中优化批量大小并禁用 log-prob 计算
# 增大批量大小以提升 NPU 利用率
data.train_batch_size=64
actor_rollout_ref.actor.ppo_mini_batch_size=64
# 禁用 log-prob 计算(Ascend 场景下非必要)
actor_rollout_ref.rollout.calculate_log_probs=False

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险极低,仅涉及 shell 脚本中的参数配置变更,无核心代码逻辑改动。calculate_log_probs=False 可能影响依赖该值的后续计算(如 PPO 算法的 advantage 估计),但原脚本本应如此配置以匹配 Ascend 性能优化。

仅影响 Ascend 环境下使用该启动脚本的用户。PPO 脚本参数优化可提升训练吞吐。GRPO 脚本变量名修正可防止启动失败。

配置变更

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论