Prhub

#47304 Update DeepGEMM tag to point to latest nv-dev branch for sm120 support

原始 PR 作者 mgoin 合并时间 2026-07-02 18:33 文件变更 2 提交数 1 评论 0 代码增减 +4 / -2

执行摘要

更新 DeepGEMM 提交引用以支持 SM120

PR #43477 合并后未更新 DeepGEMM 提交引用,导致 SM120 GPU 上触发 DeepGEMM 内核的模型启动失败(关联 issue #47169、#47266)。作者明确表示‘For now we should bump the DeepGEMM commit for nv-dev (which includes deepseek-ai/DeepGEMM#324)’以解决崩溃。

值得合入——这是一个必要的修复,解决 SM120 GPU 上的阻塞性崩溃。建议阅读以了解如何通过更新外部依赖提交引用修复兼容性问题。

讨论亮点

该 PR 的 review 很简单:Claude bot 自动评论(不可用),Harry-Chen 直接批准(APPROVED),没有深入的技术讨论。

实现拆解

  1. 更新 DeepGEMM 提交引用:在两个文件中将 DEEPGEMM_GIT_REF(或 _DEEPGEMM_UPSTREAM_TAG)从 891d57b4db1071624b5c8fa0d1e51cb317fa709f 修改为 a6b593d2826719dcf4892609af7b84ee23aaf32a
  2. 添加注释说明:在 tools/install_deepgemm.shcmake/external_projects/deepgemm.cmake 中增加注释 # NOTE: This is currently targeting nv-dev branch due to sm120 support,以解释当前指向 nv-dev 分支的原因,便于后续维护。
  3. 保持同步:作者在两个文件中均添加了同步提醒注释(Keep in sync with),确保脚本和 CMake 配置的一致性。
文件 模块 状态 重要度
tools/install_deepgemm.sh 构建脚本 modified 3.61
cmake/external_projects/deepgemm.cmake CMake 构建 modified 3.41

关键源码片段

tools/install_deepgemm.sh core-logic

更新 DeepGEMM 的 Git 提交引用,新增注释说明指向 nv-dev 分支。

# tools/install_deepgemm.sh ( 片段 )
# Default values
# Keep DEEPGEMM_GIT_REF in sync with cmake/external_projects/deepgemm.cmake
DEEPGEMM_GIT_REPO="https://github.com/deepseek-ai/DeepGEMM.git"
# NOTE: This is currently targeting nv-dev branch due to sm120 support
DEEPGEMM_GIT_REF="a6b593d2826719dcf4892609af7b84ee23aaf32a" # 此前为 891d57...
cmake/external_projects/deepgemm.cmake core-logic

同步更新 CMake 构建中 DeepGEMM 的提交引用,与 shell 脚本保持一致。

# cmake/external_projects/deepgemm.cmake ( 片段 )
if(DEEPGEMM_SRC_DIR)
  # ...
else()
  # Keep in sync with tools/install_deepgemm.sh
  set(_DEEPGEMM_UPSTREAM_REPO "https://github.com/deepseek-ai/DeepGEMM.git")
  # NOTE: This is currently targeting nv-dev branch due to sm120 support
  set(_DEEPGEMM_UPSTREAM_TAG "a6b593d2826719dcf4892609af7b84ee23aaf32a") # 此前为 891d57...

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

低风险。变更仅涉及两个构建配置文件中 DeepGEMM 仓库的提交 SHA 更新,不修改任何源码或逻辑。风险在于新提交可能引入回归,但新提交来自 DeepGEMM 的 nv-dev 分支,且 PR #324(已合并)仅添加 SM120 支持。

直接影响:修复 Blackwell SM120 GPU 上使用 DeepGEMM 内核的模型(如 Qwen3.6-27B-FP8, DeepSeek-V4-Flash)的启动崩溃。间接影响:其他 GPU 架构(如 SM90)不受影响,因为新提交仅添加 SM120 支持。影响范围小,仅涉及构建时依赖。

外部依赖变更

关联 Issue

#47169 [Usage]: vLLM 0.24.0 crashes on startup with Qwen3.6-27B-FP8 on Blackwell SM120 — DeepGemm warmup ignores auto-disable
#47266 [Bug]: vLLM 0.24.0 with DeepSeek on Blackwell SM120 (RTX PRO 6000) — Comprehensive Issues Report

完整报告

参与讨论