verl-project/verl · 标签视图

升级 Ascend A2/A3 镜像至 Megatron 0.18.0 并切换依赖栈。

这是一个重要的基础设施升级 PR，虽然不涉及核心算法或训练逻辑的改动，但它改变了 Ascend 平台上所有训练任务的底层依赖栈和运行时配置。对于使用 Ascend 的开发者或运维人员，此 PR 值得精读，以理解版本升级的具体内容和配置切换点，从而安全地完成环境迁移。对于不使用 Ascend 的读者，可以略过。

为 VeOmni 引擎新增基于流的异步激活卸载配置与实现，用于降低 GPU 内存占用。

本 PR 引入了一个重要的内存优化功能，值得精读。关注重点在于： 1. `_maybe_apply_async_activation_offload` 方法的设计和应用时机，这是理解异步卸载如何与 FSDP2 和梯度检查点协同工作的关键。 2. 配置项的语义和验证逻辑，特别是 `activation_offload_modules` 的模式匹配和 `activation_offload_host_cache_limit_gb` 的内存管理策略。 3. 移除同步卸载路径对整体架构简化的影响。 尽管 PR 合并时无 Review 讨论，但其实现逻辑清晰，关键设计决策在代码注释中得到了充分解释。这是一个“重大变更”（导入ance_score: 6），因为它引入了一个全新的内存管理子系统，并伴随配置的破坏性更改。

修复 transformers 升级后 CI 失败，更新模型和依赖配置。

这是一个常规的 CI 修复 PR，主要涉及配置调整和测试适配。值得快速浏览以了解 transformers 升级后的兼容性问题，但无需深度精读核心逻辑。建议关注测试模型变更和依赖添加，以确保后续类似升级时有参考。

统一项目所有后端的 transformers 版本至 5.9.0，简化依赖管理。

这是一个重要的依赖维护 PR，虽然代码变更简单，但影响面较广。建议精读 `pyproject.toml` 中关于 `override-dependencies` 新策略的注释，理解其设计意图。对于所有使用者，需要在更新环境后运行测试套件，特别是与 `transformers` 交互紧密的功能，以确保升级无破坏性。该 PR 是项目依赖治理简化的积极一步，值得肯定。

修复禁用 chunked prefill 时 vLLM 启动崩溃并清理旧配置

值得精读。核心价值不在 diff 规模，而在 `_validate_configs` 中如何用“warning + 自动提升”平衡 vLLM 约束与用户显式配置；同时展示了跨示例、CI、测试的连锁清理方法，以及测试在行为不确定性下如何改为观察式断言。建议重点关注 vllm_async_server.py 的安全网分支和 agent-loop 测试的改写思路。

uv 锁与镜像支持 aarch64 双架构，配套流程重写

值得精读。该 PR 展示了“架构作为解析维度而非 extra 维度”的 uv 多架构设计，以及两个非常具体的坑：nvidia-cusparselt-cu13 的 wheel 内部 tag 不一致导致 uv 反复重装、megatron-core VCS 版本号导致锁文件与实际构建不一致。这些细节对任何维护 uv 单锁多平台的团队都有借鉴价值；Docker 多架构构建与 manifest 合并的实操说明也可直接复用。重点关注 `pyproject.toml` 的 `[tool.uv]` 配置注释和 `docker/Dockerfile.uv.cu130` 的构建说明。

更新 30B veomni 脚本的专家并行配置

该 PR 为低优先级的配置调整，不值得精读。可留意其将专家并行大小参数化并默认调整为 8 的做法，这反映了 veomni 在 NPU 上对专家并行的偏好。

DeepSeek V4 支持 QAT bf16 伪量化训练

该 PR 值得关注，因为它引入了新的训练模式（QAT）并增强了 GSPO 损失的灵活性。建议补充单元测试覆盖新配置项和损失聚合逻辑，并确认与 VeOmni 侧 PR 的兼容性。