执行摘要
- 一句话:更新 DeepGEMM 提交引用以支持 SM120
- 推荐动作:值得合入——这是一个必要的修复,解决 SM120 GPU 上的阻塞性崩溃。建议阅读以了解如何通过更新外部依赖提交引用修复兼容性问题。
功能与动机
PR #43477 合并后未更新 DeepGEMM 提交引用,导致 SM120 GPU 上触发 DeepGEMM 内核的模型启动失败(关联 issue #47169、#47266)。作者明确表示‘For now we should bump the DeepGEMM commit for nv-dev (which includes deepseek-ai/DeepGEMM#324)’以解决崩溃。
实现拆解
- 更新 DeepGEMM 提交引用:在两个文件中将
DEEPGEMM_GIT_REF(或 _DEEPGEMM_UPSTREAM_TAG)从 891d57b4db1071624b5c8fa0d1e51cb317fa709f 修改为 a6b593d2826719dcf4892609af7b84ee23aaf32a。
- 添加注释说明:在
tools/install_deepgemm.sh 和 cmake/external_projects/deepgemm.cmake 中增加注释 # NOTE: This is currently targeting nv-dev branch due to sm120 support,以解释当前指向 nv-dev 分支的原因,便于后续维护。
- 保持同步:作者在两个文件中均添加了同步提醒注释(
Keep in sync with),确保脚本和 CMake 配置的一致性。
关键文件:
tools/install_deepgemm.sh(模块 构建脚本;类别 infra;类型 core-logic): 更新 DeepGEMM 的 Git 提交引用,新增注释说明指向 nv-dev 分支。
cmake/external_projects/deepgemm.cmake(模块 CMake构建;类别 infra;类型 core-logic): 同步更新 CMake 构建中 DeepGEMM 的提交引用,与 shell 脚本保持一致。
关键符号:未识别
关键源码片段
tools/install_deepgemm.sh
更新 DeepGEMM 的 Git 提交引用,新增注释说明指向 nv-dev 分支。
# tools/install_deepgemm.sh ( 片段 )
# Default values
# Keep DEEPGEMM_GIT_REF in sync with cmake/external_projects/deepgemm.cmake
DEEPGEMM_GIT_REPO="https://github.com/deepseek-ai/DeepGEMM.git"
# NOTE: This is currently targeting nv-dev branch due to sm120 support
DEEPGEMM_GIT_REF="a6b593d2826719dcf4892609af7b84ee23aaf32a" # 此前为 891d57...
cmake/external_projects/deepgemm.cmake
同步更新 CMake 构建中 DeepGEMM 的提交引用,与 shell 脚本保持一致。
# cmake/external_projects/deepgemm.cmake ( 片段 )
if(DEEPGEMM_SRC_DIR)
# ...
else()
# Keep in sync with tools/install_deepgemm.sh
set(_DEEPGEMM_UPSTREAM_REPO "https://github.com/deepseek-ai/DeepGEMM.git")
# NOTE: This is currently targeting nv-dev branch due to sm120 support
set(_DEEPGEMM_UPSTREAM_TAG "a6b593d2826719dcf4892609af7b84ee23aaf32a") # 此前为 891d57...
评论区精华
该 PR 的 review 很简单:Claude bot 自动评论(不可用),Harry-Chen 直接批准(APPROVED),没有深入的技术讨论。
风险与影响
- 风险:低风险。变更仅涉及两个构建配置文件中 DeepGEMM 仓库的提交 SHA 更新,不修改任何源码或逻辑。风险在于新提交可能引入回归,但新提交来自 DeepGEMM 的 nv-dev 分支,且 PR #324(已合并)仅添加 SM120 支持。
- 影响:直接影响:修复 Blackwell SM120 GPU 上使用 DeepGEMM 内核的模型(如 Qwen3.6-27B-FP8, DeepSeek-V4-Flash)的启动崩溃。间接影响:其他 GPU 架构(如 SM90)不受影响,因为新提交仅添加 SM120 支持。影响范围小,仅涉及构建时依赖。
- 风险标记:外部依赖变更
关联脉络
- PR #43477 [未获取标题]: PR body 提到此 PR 的功能已合并但未更新 DeepGEMM 提交,需要当前 PR 补上 SM120 支持。
参与讨论