执行摘要

• 一句话：Docker 安装 libcublas-dev 修复 FlashInfer JIT 编译
• 推荐动作：建议精读：该 PR 是一个典型的基础设施修复，展示了 Dockerfile 中依赖包选择对运行时 JIT 编译的影响。值得关注 review 中关于注释位置的问题，确保构建稳定性。

功能与动机

运行时镜像中 FlashInfer 的 flashinfer_cutedsl MoE 后端在启动时 JIT 编译 moe_utils 模块失败，报错 fatal error: cublasLt.h: No such file or directory，因为安装的是运行时包 libcublas 而非开发包 libcublas-dev。该问题在 vllm/vllm-openai:cu130-nightly-aarch64 镜像上可复现。

实现拆解

1. 定位问题：FlashInfer 的 CuTe DSL JIT 编译需要 cublasLt.h 头文件，但 Dockerfile 中安装的 libcublas 运行时包不包含头文件。
2. 修改依赖包名：将 docker/Dockerfile 第 541 行（原）的 libcublas-${CUDA_VERSION_DASH} 改为 libcublas-dev-${CUDA_VERSION_DASH}，确保安装开发包以提供头文件。
3. 保持一致性：该变更与同一 apt-get 命令块中其他包（如 libcurand-dev）使用 -dev 后缀的做法一致。
4. 验证修复：在 aarch64 (GB200) 上使用 Kimi-K2.5-NVFP4 modelopt checkpoint 验证 FlashInfer MoE 后端启动成功。

关键文件：

• docker/Dockerfile（模块 部署脚本；类别 infra；类型 infrastructure）: 修改了运行时镜像中 CUDA 开发工具包列表，将 libcublas 替换为 libcublas-dev 以提供 FlashInfer JIT 编译所需的头文件。

关键符号：未识别

关键源码片段

docker/Dockerfile

修改了运行时镜像中 CUDA 开发工具包列表，将 libcublas 替换为 libcublas-dev 以提供 FlashInfer JIT 编译所需的头文件。

RUN CUDA_VERSION_DASH=$(echo $CUDA_VERSION | cut -d. -f1,2 | tr '.' '-') && \
    apt-get update && \
    apt-get install --no-install-recommends -y \
        cuda-nvrtc-${CUDA_VERSION_DASH} \
        cuda-cuobjdump-${CUDA_VERSION_DASH} \
        libcurand-dev-${CUDA_VERSION_DASH} \
        # 修复 FlashInfer CuTe DSL JIT 编译时找不到 cublasLt.h 的问题
        libcublas-dev-${CUDA_VERSION_DASH} \
        # Required by fastsafetensors (fixes #20384)
        libnuma-dev && \
    # ...

评论区精华

Review 中 gemini-code-assist[bot] 发现一个高优先级问题：第 542 行的注释（# Required by fastsafetensors (fixes #20384)）位于反斜杠延续的命令链中，会导致后续包 libnuma-dev 被错误解释为命令而非包名，可能引发构建失败。建议将注释移到命令链外部。该评论未被作者或合并者回应。

• 注释位置破坏 apt-get 命令链 (correctness): 建议将注释移到命令链外部，但作者未回应。

风险与影响

• 风险：低风险：变更仅涉及 Dockerfile 中一个包名后缀，且已验证修复功能。但 review 中提出的注释位置问题可能影响构建成功性，需确保注释不会破坏 apt-get 命令链。
• 影响：影响范围：仅影响使用 FlashInfer CuTe DSL JIT 编译的 MoE 后端用户（如 aarch64 架构上的 Kimi-K2.5-NVFP4 模型）。对于其他用户，安装 libcublas-dev 仅增加少量镜像体积，无功能影响。
• 风险标记：部署脚本变更, 潜在构建失败

关联脉络

• 暂无明显关联 PR