执行摘要
rollout 默认开启 calculate_log_probs
PR body 仅说明 "As title",但根据配置文件注释,此变更支持 rollout 概率日志记录调试,并且当启用截断重要性采样时,需要设置 calculate_log_probs 为 true。
该 PR 简单明了,适合合并。建议确认下游用户是否知晓此默认变更,可在发版说明中提及。
无人工 review 讨论。仅有一个机器人自动 review 无反馈。
PR body 仅说明 "As title",但根据配置文件注释,此变更支持 rollout 概率日志记录调试,并且当启用截断重要性采样时,需要设置 calculate_log_probs 为 true。
该 PR 简单明了,适合合并。建议确认下游用户是否知晓此默认变更,可在发版说明中提及。
无人工 review 讨论。仅有一个机器人自动 review 无反馈。
verl/trainer/config/rollout/rollout.yaml 中将 calculate_log_probs 默认值从 False 改为 True。_generated_ppo_megatron_trainer.yaml、_generated_ppo_torchtitan_trainer.yaml、_generated_ppo_trainer.yaml、_generated_ppo_veomni_trainer.yaml,将各自 calculate_log_probs 值从 false 改为 true。| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
verl/trainer/config/rollout/rollout.yaml |
Rollout 配置 | modified | 3.27 |
verl/trainer/config/_generated_ppo_trainer.yaml |
训练器配置 | modified | 3.07 |
verl/trainer/config/_generated_ppo_megatron_trainer.yaml |
训练器配置 | modified | 3.07 |
verl/trainer/config/_generated_ppo_torchtitan_trainer.yaml |
训练器配置 | modified | 3.07 |
verl/trainer/config/_generated_ppo_veomni_trainer.yaml |
训练器配置 | modified | 3.07 |
分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
低风险。calculate_log_probs 开启后会增加计算开销(计算对数概率),但不会影响功能正确性。对于不需要日志概率的用户,他们仍可通过显式配置 calculate_log_probs: False 来关闭。
影响用户所有使用默认配置的 PPO 训练。默认开启后,每次 rollout 会额外计算对数概率,轻微增加计算量。对于调试和截断重要性采样场景是预期行为。
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论