#44036 [CI/Build] Bump flashinfer to v0.6.12

原始 PR 作者 vadiklyutiy 合并时间 2026-06-03 06:19 文件变更 4 提交数 2 评论 2 代码增减 +6 / -6

执行摘要

PR body 明确说明“Bump flashinfer to v0.6.12”，目的是将核心 CUDA 算子库 flashinfer 升级到最新版本，以获取 bug 修复、性能改进或新功能。

建议合并，这是常规依赖升级，无风险。关注后续是否出现与 flashinfer 0.6.12 相关的运行时问题。

讨论亮点

无 review 评论。仅有一条来自作者的测试结果说明，指出三个失败作业在主分支上也同样失败，确认本次升级未引入新的问题。

文件	模块	状态	重要度
`docker/Dockerfile.nightly_torch`	Docker 镜像	modified	2.96
`docker/versions.json`	Docker 镜像	modified	2.95
`docker/Dockerfile`	Docker 镜像	modified	2.78
`requirements/cuda.txt`	依赖配置	modified	2.07

分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。

当前评论区没有形成足够清晰的争议点或结论，后续有更多讨论时会体现在这里。

风险较低。flashinfer 是 CUDA 端核心依赖，版本升级可能导致不兼容的 API 变更或行为变化。但本 PR 仅改版本号，未修改任何代码逻辑，且通过了 CI 测试，风险可控。

影响范围为所有使用 flashinfer 的 vLLM 用户。升级后可能获得性能改善或 bug 修复，但也需留意潜在回归。由于测试套件已覆盖，影响可控。

外部依赖升级

当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。

本次 PR 将 flashinfer 依赖从 v0.6.11.post2 升级至 v0.6.12，核心变更涉及 Docker 构建配置和 Python 依赖声明。升级后 CI 测试无新增失败，与主分支表现一致，属于常规依赖更新。

flashinfer 是 vLLM 中用于高性能 Attention 和 MoE 推理的 CUDA 算子库。本次升级旨在跟进上游最新版本，获取 bug 修复和性能优化。

更新 Docker 版本配置：在 docker/versions.json 中将 FLASHINFER_VERSION 默认值改为 0.6.12。
更新 Dockerfile：在 docker/Dockerfile 和 docker/Dockerfile.nightly_torch 中同步更新版本号，确保构建时使用正确版本。
更新 Python 包要求：在 requirements/cuda.txt 中更新 flashinfer-python 和 flashinfer-cubin 版本，使 pip 安装时使用新版本。

ARG FLASHINFER_VERSION=0.6.12 # 从 0.6.11.post2 升级

docker/versions.json 中的配置项：

{
  "FLASHINFER_VERSION": {
    "default": "0.6.12" // 版本升级
  }
}

无 review 讨论。作者在 PR 评论中说明“三个失败作业在主分支上也同样失败”，确认升级未引入新问题。

与历史 PR #43669 均涉及 flashinfer，该 PR 为 NVFP4 不支持架构添加快速失败。本次升级可能包含相关修复。