verl-project/verl

修复 FSDP 保存 LoRA 模型时错误打包 PeftModel 源码的 bug

值得精读。虽然改动很小，但 PR body 对 transformers custom_object_save 机制和 FSDP1/FSDP2 差异失败模式的分析很有价值；测试设计（stub 分布式原语 + 负向控制验证）也值得借鉴。建议关注 `get_base_model()` 的 peft-only 判断，以及 `save_checkpoint` 中 `auto_map` 分支的容错方式。

Megatron 稳态 delta 导出新增 PP/VPP 支持

值得精读。这是 delta_sharded 引擎演进的关键一步——它展示了如何不加 relay 就复用 bridge 全局参数目录实现 PP 导出，其中 `_exchange_slot_tables` 按目录行键控的契约设计、`contributes` 去重位、以及 placeholder 行的 zero-count 锁步机制都值得学习。建议重点阅读 `build_export_index` 的三态路由、`_pp_differential` 的独立参照链设计，以及第二个 commit 对 ep_size>1 归错问题的根因分析。

修复 Megatron 合并丢失生成配置与多卡重复上传

值得精读。核心看点有三个：一是“缺失即回退、损坏即失败”的 fail-closed 错误处理策略，以及把存在性检查与解析解耦的实现方式；二是分布式合并器中 rank 0 专属写入区与集合通信的分工，rank 0 守卫如何同时避免并发写文件和并发上传；三是把“顺带修到的独立 bug”拆成单独 Issue（#7226）以便二分定位的做法。评审讨论（ErenAta16）对这些问题有清晰交锋，适合作为模型合并与分布式落盘代码 review 的参考案例。

修复蒸馏损失按微批划分的归一化差异

值得快速精读，重点学习两个点：一是 agg_loss() 的全局归一化机制与 DDP 梯度平均的关系，二是修复信息放置在分支之前的设计决策。PR body 中的定量对比（mb1 vs mb8、fixOff vs fixOn）是很有说服力的验证范例。若团队有蒸馏训练任务，建议尽早合入并留意是否需要补充 micro-batch 相关的回归测试。

修复 FP8 scale refit bug 并拆分 FP8/MXFP4 权重同步

值得精读，特别是 `_iter_transferable_param_attrs` 对 bound method 的处理和 FP8/MXFP4 两套 in-place staging 机制，对理解 vLLM 量化权重同步与 CUDA graph 交互非常有价值。关注点：`verl/utils/vllm/vllm_fp8_utils.py` 的 staging/fold 生命周期、`vllm_fp4_utils.py` 的 DeepGEMM 分支判断，以及删除旧模块后 TP 分片加载逻辑是否完整保留。建议在合并后补充 GPU 上的 refit 集成测试。

Megatron 新增 contiguous CP 布局支持 DeepSeek V4

值得精读。这是 Megatron THD 数据通路的核心切片逻辑变更，展示了如何为特定注意力变体扩展序列并行布局而不破坏默认路径。关注点：_get_context_parallel_layout 的集中决策方式、contiguous 切片的区间求交写法、以及 postprocess 的按序拼接反解。对需要在 Megatron 后端接入新模型并行语义的工程师有直接参考价值。上线前需要补齐 DS4 端到端回归与更大 CP 规模验证。

修复部分 rollout 恢复时 token 超预算 bug

值得精读。问题定位清晰，修复最小侵入，测试设计具有参考价值（用 fake server 复刻公式）。关注恢复预算的扣减逻辑，理解该逻辑有助于后续维护异步 rollout。

移除已停服的 Gemini 代码审查配置

不需要精读，本 PR 属于工具链清理。值得留意的是仓库已将自动代码审查工具从 Gemini 切换到 Codex，后续 PR 的 review 评论会来自 chatgpt-codex-connector[bot]。