verl-project/verl · 标签视图

NPU 补丁增加部分唤醒防护，修复 GLM-5.2 异步训练崩溃

建议精读。本 PR 是典型的“对外部引擎做安全 monkey-patch”的范本：源码指纹校验、幂等 marker、spawn 入口包装三件事结合得很好，对维护 vllm-ascend、sglang 等外部组件兼容层的开发者有直接参考价值。值得关注的设计决策是“先验证再替换”和“通过入口函数传播补丁到子进程”这两个模式。

新增 Ascend NPU batch-invariant 开关回归测试（14 例）

值得精读，但读的是测试脚手架而不是代码改动本身。 - 重点看 `run_on_npu` 的 spawn 子进程隔离设计：对于会在全局注册 torch dispatch 表或替换 `torch.sum`、`torch_npu.npu_add_rms_norm` 这类入口的开关，进程级隔离是唯一可靠的隔离手段，这套写法可直接迁移到其他 NPU 补丁测试。 - 重点看 `_run_check` 如何用真实 `vLLMHttpServer` 加最小 mock（模型元数据 + Ray 上下文 + 引擎配置单例）触发真实的 `init_batch_invariance()`，避免了「只测 mock」的假阳性，同时不付出加载权重与拉起推理引擎的代价。 - 关键设计决策：enabled/disabled 双向断言（特别是 disabled 时要求 `batch_invariant_ops::` 事件数必须为 0），这比只测开启路径更能捕获 dispatch 注册泄漏。 - 若要真正确认能力，建议后续补一个跨 batch size 的一致性用例：同一条样本分别放进 batch=1 与 batch=N 比较 logprob 位级一致，才覆盖 `full_determinism` 的语义；并补齐 CI 收集与算子包安装的验证，避免长期 skipped。 - 维护建议：把对 `bi._batch_invariant_LIB` 等私有符号的依赖在注释中显式标注为「随 vllm-ascend 版本可能变动」，并在 PR 描述中把文件名与 body 里的 `test_batch_invariant_switch.py` 对齐。

为 AMD/ROCm 平台补充自动检测和注册断言的测试用例。

这是一个标准、低风险的测试补充 PR，旨在提升硬件兼容性测试覆盖。建议精读以了解 verl 平台抽象层的测试设计模式，特别是如何通过模拟环境变量和断言注册表来验证多平台支持。对于负责平台适配或 CI 配置的工程师，此 PR 值得参考。

为 vllm-ascend 添加 GLM-5.2 RL 训练兼容性补丁，修复 RMS 归一化、权重处理和内存同步问题。

这个 PR 是一个高风险的、临时性的兼容性修复，**建议仔细审查**。审查重点应放在：1) 补丁逻辑的正确性，特别是对 vllm-ascend 内部函数的 monkey-patching 是否完全复制了预期的修复（可对照 PR body 中提及的 commit `ca0420391`）；2) 源码自省逻辑的健壮性，确保不会在不匹配的 vllm-ascend 版本上错误应用补丁；3) 环境变量控制的清晰度。虽然缺少讨论，但 PR 本身的设计（条件启用、防止重复、优雅降级）显示出对临时补丁风险的充分考虑。对于任何计划在 NPU 上部署 GLM-5.2 的团队，此 PR 值得关注。

修复 Ascend A5 硬件因 HDK 版本问题无法开启 IPC 的 bug

本 PR 是一个重要的、针对性强的 bugfix。它解决了特定硬件上的功能阻断问题，且实现清晰，测试覆盖全面。推荐精读，关注点在于：1) `AscendHardwareVersion` 枚举的设计及其作为未来硬件适配扩展点的潜力；2) `get_npu_versions` 返回值签名变更的影响范围确认；3) 测试中通过 `@patch.dict(sys.modules, {...})` 模拟 `torch_npu` 模块的方法。

ROCm CI 容器固定 NUMA 节点，解决 e2e 超时

值得快速阅读，但不需要精读。它展示了一个很有价值的运维经验：在虚拟化环境（QEMU VM）下，容器自由调度导致的跨 NUMA 启动开销可能被误判为计算性能问题；`--cpuset-cpus`/`--cpuset-mems` 组合是恢复 NUMA 局部性的标准手段。对于负责 CI 基础设施的工程师，建议关注：1) NUMA 拓扑感知的容器调度实践；2) YAML folded scalar 中反斜杠陷阱（作者在 PR body 中特别提醒）；3) 这类硬编码硬件假设应记录到 workflow 注释或文档，以便环境迁移时更新。

修复 rollout 工作节点 NCCL_CUMEM_ENABLE 被强制覆盖问题

此 PR 值得快速浏览，因为它在不经意间暴露了 verl 在环境变量处理上的一个设计倾向：硬编码默认值可能覆盖用户意图。对于使用 CUDA 并有特殊 NCCL 配置需求的用户，建议关注此改动；建议未来类似环境变量处理统一使用 os.environ.get 模式。

修复 modular vLLM 上 FusedMoE 导入引发的 NPU 启动崩溃

该 PR 值得快速浏览，它体现了对 vLLM 模块化演进（factory 模式替代类导出）的兼容性处理。对于 vLLM 集成相关的开发者，可借鉴其通过 `getattr` 实现可选类导入的模式。但整体改动较小，不涉及核心架构，非高精读优先级。