Prhub

#6262 [ci] chore: bump trtllm to 1.3.0rc14 and pin mbridge

原始 PR 作者 Superjomn 合并时间 2026-05-07 20:27 文件变更 1 提交数 1 评论 1 代码增减 +3 / -3

执行摘要

升级 TRTLLM 至 1.3.0rc14 并锁定 mbridge 版本

保持 TRTLLM 基础镜像处于较新版本,并锁定 mbridge 依赖到特定 commit(与 Dockerfile.stable.vllm 一致),避免浮动 HEAD 在镜像重建中出现兼容性问题。

建议关注 review 中关于移除 -U 的建议,并确认在后续 PR 中修复。该 PR 本身改动较小,无需深入精读,但了解依赖管理操作对基础设施维护有参考价值。

讨论亮点

gemini-code-assist[bot] 提出了一条高优先级建议:指出 -U (upgrade) 标志在锁定特定 commit 时是冗余的,且在 NGC 基础镜像中可能引发环境不稳定(如升级预装的 TensorRT-LLM 或 PyTorch),建议移除 -U 并使用 pip3 以保持一致。该建议未被采纳或回复,PR 最终由 wuxibin89 批准合并。

实现拆解

  1. 修改 docker/Dockerfile.stable.trtllm 中的 TRTLLM_BASE_IMAGE 参数,将版本从 1.3.0rc13 升级到 1.3.0rc14
  2. 修改同一文件中的 pip install 命令,将 mbridge 的安装源从浮动的 git+https://github.com/ISEEKYAN/mbridge.git 改为固定 commit 的 git+https://github.com/ISEEKYAN/mbridge.git@641a5a0
  3. 更新 Ray 版本注释,将 1.3.0rc13 改为 1.3.0rc14,确保注释与实际版本一致。
文件 模块 状态 重要度
docker/Dockerfile.stable.trtllm 部署脚本 modified 3.08

关键源码片段

docker/Dockerfile.stable.trtllm infrastructure

唯一被修改的文件,包含所有变更(基础镜像版本升级、mbridge 锁定、Ray 注释更新)。

# docker/Dockerfile.stable.trtllm 关键片段# Base image from NGC TensorRT-LLM, which includes a pre-installed TensorRT-LLM.
# For available images, visit: https://nvidia.github.io/TensorRT-LLM/installation/containers.html
# Use TRTLLM_BASE_IMAGE to specify the base image (default: release:1.2.0rc6)
# 升级基础镜像版本到 1.3.0rc14
ARG TRTLLM_BASE_IMAGE=nvcr.io/nvidia/tensorrt-llm/release:1.3.0rc14
FROM ${TRTLLM_BASE_IMAGE}# ... 中间省略 ...# 锁定 mbridge 到特定 commit,避免浮动 HEAD 导致的不一致性
RUN pip install --no-cache-dir -U git+https://github.com/ISEEKYAN/mbridge.git@641a5a0 && \
    pip install --no-deps --no-cache-dir git+https://github.com/NVIDIA/Megatron-LM.git@core_v0.16.0
​
# ... 中间省略 ...# 更新 Ray 版本注释以匹配实际安装的镜像版本
# Pin Ray to a version compatible with TRT-LLM 1.3.0rc14
RUN pip install --no-cache-dir "ray[default]==2.54.1"

评论区精华

mbridge 安装时 -U 标志的风险 安全

gemini-code-assist[bot] 指出 `-U` 标志在锁定 commit 时冗余,且可能意外升级 NGC 镜像预装的核心库(如 TensorRT-LLM 或 PyTorch),导致环境不稳定或破坏。建议移除 `-U` 并使用 `pip3` 以保持一致。

结论:未采纳或回复,PR 被批准合并。风险仍然存在,但当前未被触发。 · unresolved

风险与影响

使用 pip install -U 可能意外升级 NGC 镜像中预装的核心库(如 TensorRT-LLM 或 PyTorch),导致环境不稳定或功能异常。虽然当前未报告问题,但推荐移除 -U 以降低风险。此外,镜像更新到 1.3.0rc14 可能引入与之前版本不兼容的 API 变更,但 TRTLLM 通常是向前兼容的,风险较低。

仅影响基于此 Dockerfile 构建的 TRTLLM 镜像用户。升级后所有使用该镜像的 CI 流水线和开发环境将使用新的 TRTLLM 版本和固定的 mbridge 版本。如果没有破坏性变更,影响主要是正面的——更稳定和更新的依赖。

潜在依赖升级风险 未解决 review 建议

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论