执行摘要
本PR为verl项目添加了对GB200（aarch64/Blackwell）硬件的支持，通过修改Dockerfile以兼容aarch64架构、新增训练示例脚本以及更新测试文件以动态检测GPU数量。这是一个有意义的跨平台扩展，提升了系统在NVIDIA Blackwell架构上的运行能力，但引入了依赖版本固定和测试适配风险。
功能与动机
动机源于支持新硬件平台GB200（aarch64/Blackwell），解决兼容性问题。根据PR body，主要修复包括：pin transformers版本以避免SGLang不兼容、添加cachetools依赖、以及适配cuDNN。目标是使verl能在Blackwell架构上运行强化学习训练，扩展应用场景。
实现拆解
实现分为三个关键部分：
- Dockerfile修改：在
docker/Dockerfile.stable.vllm中统一x86_64和aarch64支持，主要更改包括：
- 添加APT_MIRROR构建参数，允许用户指定apt镜像源。
- 修复cuDNN安装，根据架构（x86_64或aarch64）选择正确仓库路径。
- 固定依赖版本如transformers和vllm以确保兼容性。
- 训练脚本：新增
examples/grpo_trainer/run_qwen3-8b_gb200.sh，配置GB200特定参数：
actor_rollout_ref.rollout.enforce_eager=True
+actor_rollout_ref.rollout.engine_kwargs.sglang.attention_backend=flashinfer
actor_rollout_ref.actor.fsdp_config.model_dtype=bfloat16
- 测试适配：更新多个测试文件，使用
torch.cuda.device_count()替代硬编码GPU数量，例如在tests/checkpoint_engine/test_correctness_on_gpu.py中：
_ngpus = torch.cuda.device_count()
@pytest.mark.parametrize("num_trainer, num_rollout", [(2, _ngpus - 2)])
评论区精华
review讨论聚焦于设计和正确性：
- gemini-code-assist[bot]指出风险：> "The path to the PyTorch METADATA file is hardcoded. This is brittle and will break..." 强调硬编码路径可能导致构建失败。
- wuxibin89建议合并Dockerfile：> "Can we merge docker/Dockerfile.vllm.gb200 into docker/Dockerfile.vllm..." kaixih回应逐步对齐，最终统一了文件。
- ETOgaosion提出测试改进：> "Maybe we can extract the same codes to get ngpus..." 导致实现
get_local_gpus_num函数。
风险与影响
风险具体说明：
- 硬编码路径（如Dockerfile中的METADATA）可能随基础镜像更新失效，需监控构建稳定性。
- 固定依赖版本（如transformers==4.57.1）可能阻碍未来升级，增加技术债务。
- 测试更改覆盖多个文件，动态GPU检测逻辑需在多种环境下验证，以防回归错误。
影响分析：
- 用户需本地构建镜像，提升了使用门槛，但扩展了硬件支持。
- 系统测试更灵活，适应不同GPU配置，增强跨平台健壮性。
- 团队需维护多架构支持，但统一Dockerfile降低了长期复杂性。
关联脉络
本PR与近期历史PR关联紧密：
- PR 5724（vllm base image升级）：为Dockerfile统一提供基础，涉及ubuntu版本升级。
- PR 5934（vllm修复）：同属vllm和rollout模块优化，显示仓库对该后端的持续投入。
整体上，verl项目正通过一系列PR扩展硬件支持（如NPU、GB200）和优化测试，本PR是这一趋势的一部分，标志着向多架构生态系统演进。
参与讨论