执行摘要
修复 Ascend 启动脚本的参数和拼写错误
PR body 中明确说明是 fix npu parameters and typo,解决 Ascend 环境下启动脚本的参数配置错误。
简单维护性 PR,无需精读。对于在 Ascend 上复现实验的用户,建议同步更新脚本。
无人工 review 讨论,仅由 Gemini Code Assist 自动评论总结变更,以及由 wucong25 直接批准。
PR body 中明确说明是 fix npu parameters and typo,解决 Ascend 环境下启动脚本的参数配置错误。
简单维护性 PR,无需精读。对于在 Ascend 上复现实验的用户,建议同步更新脚本。
无人工 review 讨论,仅由 Gemini Code Assist 自动评论总结变更,以及由 wucong25 直接批准。
修改 PPO 启动脚本 (examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh):
data.train_batch_size 从 32 改为 64,actor_rollout_ref.actor.ppo_mini_batch_size 从 32 改为 64,增大批量以提升吞吐。actor_rollout_ref.rollout.calculate_log_probs 从 True 改为 False,禁用不必要的 log-prob 计算。修改 GRPO 启动脚本 (examples/ascend_extras/grpo_trainer/run_qwen3_5_122b_a10b_32k_megatron.sh):
NDEVICES_PER_NODE 更正为 NPUS_PER_NODE,修正拼写错误。| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh |
Ascend 示例 | modified | 3.01 |
examples/ascend_extras/grpo_trainer/run_qwen3_5_122b_a10b_32k_megatron.sh |
Ascend 示例 | modified | 2.31 |
examples/ascend_extras/ppo_trainer/run_qwen3_8b_fsdp.sh
configuration
修改了 batch size 和 log-prob 计算开关,影响训练吞吐和 PPO 行为。
# 在 run_qwen3_8b_fsdp.sh 中优化批量大小并禁用 log-prob 计算
# 增大批量大小以提升 NPU 利用率
data.train_batch_size=64
actor_rollout_ref.actor.ppo_mini_batch_size=64
# 禁用 log-prob 计算(Ascend 场景下非必要)
actor_rollout_ref.rollout.calculate_log_probs=False
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
风险极低,仅涉及 shell 脚本中的参数配置变更,无核心代码逻辑改动。calculate_log_probs=False 可能影响依赖该值的后续计算(如 PPO 算法的 advantage 估计),但原脚本本应如此配置以匹配 Ascend 性能优化。
仅影响 Ascend 环境下使用该启动脚本的用户。PPO 脚本参数优化可提升训练吞吐。GRPO 脚本变量名修正可防止启动失败。
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论