verl-project/verl · 标签视图

修复检查点引擎管理器在driver进程未加载自定义后端模块的bug。

该PR值得快速浏览，了解检查点插件系统的driver-worker一致性设计。关注点：1. import_external_libs函数的设计（未在PR中展示，但推测是统一的外部库导入机制）。2. 与#5718的关联，理解完整的插件钩子实现。

新增检查点引擎插件钩子，支持自定义权重同步后端管理器和后端模块导入。

该PR值得精读，特别是关注插件钩子设计模式和安全考虑。建议工程师学习如何复用现有`agent_loop_manager_class`钩子模式，并审视`import_external_libs`的使用以评估安全风险。

为 Megatron 模块添加检查点保存为 Hugging Face PEFT 格式的功能。

建议阅读 megatron_checkpoint_manager.py 和 megatron_utils.py 中的修改，关注如何处理 PEFT 状态字典、私有 API 使用以及向后兼容性设计。设计决策值得学习，尤其是向标准 API 迁移的策略和风险管理。

将 `dist_ckpt_optim_fully_reshardable` 默认值设为 False，以避免检查点保存时的高 CPU 内存 OOM。

建议：此 PR 值得精读，特别是对于使用大模型训练的团队。重点阅读 `verl/trainer/config/engine/megatron.yaml` 的更改和文档中的警告部分，了解 fully reshardable 与 dp-reshardable 格式的权衡，以确保正确配置检查点策略。