执行摘要

此 PR 将夜间 wheel 索引生成从并发构建步骤移到一个单独的构建后步骤，消除了 TOCTOU 竞赛条件，提高了 CI 流水线的稳健性和错误容忍性，允许单个 wheel 失败时不阻塞索引生成。

功能与动机

为了解决并发构建者之间的 TOCTOU（Time-of-Check to Time-of-Use）竞赛问题，PR body 中明确说明目的是 "eliminating TOCTOU races between concurrent builders"。通过将索引生成逻辑分离到专用步骤，确保在所有 wheels 上传后一次性生成索引，避免因时间竞争导致的构建失败。

实现拆解

• 流水线配置变更：修改 .buildkite/release-pipeline.yaml，添加新步骤 "Generate and upload wheel indices"，依赖 build-wheels 组并设置 allow_dependency_failure: true，使单个 wheel 构建失败不影响索引生成。
• 新增脚本：.buildkite/scripts/generate-and-upload-nightly-index.sh 是新核心脚本，处理：
  • Python 版本检测（如低于 3.12 则使用 Docker）
  • 使用 aws s3api 获取对象列表并生成索引
  • 使用 sed 修改 Python 导入语句（import regex as re → import re）
  • 上传索引到 S3（包括 /commit/ 和 /nightly/ 路径）
• 简化旧脚本：.buildkite/scripts/upload-nightly-wheels.sh 移除索引生成逻辑，只保留 wheel 重命名（linux → manylinux）和上传功能。

评论区精华

Review 讨论集中在脚本的 robustness 上：

• gemini-code-assist[bot] 指出 sed 修改的脆性：

  "Modifying source code with sed within a build script is a very brittle practice and can lead to hard-to-debug failures."
  建议在 Python 脚本中使用 try...except 处理依赖。作者回复 "This is not modified."，暗示此问题未被解决。

  • 其他评论包括使用 aws s3api 代替解析 aws s3 ls 输出，以及修复 rm 命令在空目录时的失败风险。
  • Copilot 指出 Python 赋值模式不一致和注释错误，脚本中已部分修正。

风险与影响

• 风险：

  • sed 修改在 generate-nightly-index.py 代码变化时可能失败，导致索引生成错误。
  • rm 命令在空 indices 目录时可能因 glob 扩展失败，触发脚本终止（因 set -e）。
  • Python 检测逻辑依赖环境变量，可能引入不确定性。
    但由于 allow_dependency_failure 设置，整体流水线容忍部分失败。

• 影响：

  • 提升 CI 稳定性，减少因竞赛条件导致的夜间构建失败。
  • 增强错误容忍性，单个 wheel 问题不阻塞其他构建。
  • 对团队：简化维护，但需监控新脚本的潜在脆弱点。

关联脉络

与此 PR 相关的历史 PR 包括：

• #38263：修复 ROCm 夜间发布管道，同样修改 release-pipeline.yaml，显示团队在持续优化 CI 流水线。
• #37447：启用 Intel XPU 测试流，涉及 CI 基础设施扩展。
  这些关联表明 vllm 项目在积极改进构建和测试基础设施，以支持多硬件和稳健部署。