执行摘要

本 PR 将 PyTorch 从 2.10.0 升级至 2.11.0，是一项影响广泛的基础设施变更。覆盖了 CUDA、CPU、ROCM 和 XPU 全平台，更新了构建配置、Docker 镜像、依赖管理和 CI 测试流水线。升级旨在获取新特性和性能改进，但需注意兼容性风险和测试调整。

功能与动机

动机源于跟进 PyTorch 最新版本，PR body 简单表述为“Update to Torch 2.11”。这有助于 vLLM 利用 PyTorch 2.11 的性能优化和新功能，保持技术栈的现代性。

实现拆解

• 构建配置：更新 CMakeLists.txt 中的 TORCH_SUPPORTED_VERSION 为 2.11.0。
• 依赖管理：修改所有 requirements 文件，例如：
  • requirements/cuda.txt：torch==2.11.0, torchvision==0.26.0, torchaudio==2.11.0
  • requirements/cpu.txt：为 AArch64 添加 +cpu 后缀以避免 CUDA 库安装。
• Docker 配置：更新 docker/Dockerfile，CUDA 版本升级至 13.0.0，基础镜像从 Ubuntu 20.04 改为 22.04，并调整 NCCL 安装逻辑。
• CI/CD：更新 Buildkite 配置文件，如 .buildkite/test_areas/quantization.yaml，升级 torchao 至 0.17.0，并跳过因 PyTorch 2.11 SymInt 问题导致的 Helion 内核测试。
• 代码适配：在 vllm/utils/torch_utils.py 中更新 HAS_OPAQUE_TYPE 条件至 2.12.0.dev；在 vllm/model_executor/layers/fused_moe/runner/moe_runner_base.py 中修复 _resolve_layer_name 函数以处理 FakeScriptObject。

评论区精华

• CPU 依赖优化：fadara01 指出：“on AArch64 CPU, torch==2.11.0 now installs cuda libs not needed for CPU, so let's do torch==2.11.0+cpu for AArch64 too”，此建议被采纳，确保了依赖精简。
• Docker 镜像选择：mgoin 询问：“Why do we need a devel image for the final base now?” 并关注 glibc 兼容性。atalman 回应称 CUDA 13.0.0 只有 20.04 镜像，但最终决策保持 22.04 以匹配最终镜像。
• 测试状态：AndreasKaratzas 评论：“Torchao seems to be consistent in its failures between this version and our current nightly”，表明测试问题已存在，无需额外担心。

风险与影响

• 风险：PyTorch 2.11 可能引入 API 不兼容，导致回归；Docker 镜像升级可能影响二进制兼容性；跳过的 Helion 测试需后续解决。
• 影响：所有用户需重新安装依赖；系统构建和部署流程变更；团队需更新开发环境并验证性能。

关联脉络

此 PR 是 vLLM 项目定期依赖升级的一部分，与历史 PR 如 #38062（修复 Helion 测试）相关，展示了持续集成中测试调整的协同。未来可能需要进一步修复因版本升级暴露的问题。