Prhub

#6616 [rollout] chore: change default to calculate_log_probs=True

原始 PR 作者 wuxibin89 合并时间 2026-06-05 12:25 文件变更 5 提交数 1 评论 0 代码增减 +5 / -5

执行摘要

rollout 默认开启 calculate_log_probs

PR body 仅说明 "As title",但根据配置文件注释,此变更支持 rollout 概率日志记录调试,并且当启用截断重要性采样时,需要设置 calculate_log_probstrue

该 PR 简单明了,适合合并。建议确认下游用户是否知晓此默认变更,可在发版说明中提及。

讨论亮点

无人工 review 讨论。仅有一个机器人自动 review 无反馈。

实现拆解

  1. verl/trainer/config/rollout/rollout.yaml 中将 calculate_log_probs 默认值从 False 改为 True
  2. 同步更新 4 个自动生成的 PPO 训练器配置文件:_generated_ppo_megatron_trainer.yaml_generated_ppo_torchtitan_trainer.yaml_generated_ppo_trainer.yaml_generated_ppo_veomni_trainer.yaml,将各自 calculate_log_probs 值从 false 改为 true
  3. 每个文件仅修改一行,确保默认行为一致。
文件 模块 状态 重要度
verl/trainer/config/rollout/rollout.yaml Rollout 配置 modified 3.27
verl/trainer/config/_generated_ppo_trainer.yaml 训练器配置 modified 3.07
verl/trainer/config/_generated_ppo_megatron_trainer.yaml 训练器配置 modified 3.07
verl/trainer/config/_generated_ppo_torchtitan_trainer.yaml 训练器配置 modified 3.07
verl/trainer/config/_generated_ppo_veomni_trainer.yaml 训练器配置 modified 3.07

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

低风险。calculate_log_probs 开启后会增加计算开销(计算对数概率),但不会影响功能正确性。对于不需要日志概率的用户,他们仍可通过显式配置 calculate_log_probs: False 来关闭。

影响用户所有使用默认配置的 PPO 训练。默认开启后,每次 rollout 会额外计算对数概率,轻微增加计算量。对于调试和截断重要性采样场景是预期行为。

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论