执行摘要

• 一句话：更新 FlashMLA 依赖版本，修复稀疏解码不必要的工作区分配。
• 推荐动作：值得快速合入，因为它解决了实际问题且变更极小。无需深入阅读，但建议关注后续是否有对 FlashMLA 依赖版本的其他更新，以保持一致性。

功能与动机

修复 #53413，该 issue 报告了 GLM-5.2 FP8 在 8×H200 上运行时 CUDA OOM 的问题，原因是 FlashMLA 稀疏解码内核分配的工作区不随 max-num-batched-tokens 线性增长且不受限制，导致运行时 OOM 并让 EngineCore 崩溃。通过集成上游 FlashMLA#19 的修复，避免了无分割稀疏解码路径上未使用的 split-KV 累加器的分配，从而彻底消除这一隐患。

实现拆解

本 PR 实现非常简单，仅更新了 FlashMLA 外部依赖的 Git 标签，具体步骤如下：

1. 修改 cmake/external_projects/flashmla.cmake 中的 GIT_TAG，从 a8f794d1251cbfd88a5011445dd5582289c727e4 更新为 0397728d511c4e3d94ea3a01d8dda8654525a611，该 commit 包含上游 FlashMLA#19 的修复。
2. 更新标签后重新构建 FlashMLA 依赖，无其他代码或配置改动。
3. 通过测试验证修复效果：稀疏解码冒烟测试、tests/kernels/attention/test_flashmla_sparse.py 以及 FP8 稀疏解码跨层等价性测试均通过。
   由于变更仅涉及依赖版本，未涉及 vLLM 源码逻辑，因此实现风险较低，但需确保新标签对应的 FlashMLA 版本与 vLLM 其他部分兼容。

关键文件：

• cmake/external_projects/flashmla.cmake（模块 构建配置；类别 infra；类型 dependency-bump）: 更新 FlashMLA 依赖的 Git 标签，集成上游修复，是本次变更的核心文件。

关键符号：未识别

关键源码片段

cmake/external_projects/flashmla.cmake

更新 FlashMLA 依赖的 Git 标签，集成上游修复，是本次变更的核心文件。

# cmake/external_projects/flashmla.cmake
# 更新 FlashMLA 依赖版本，集成稀疏解码工作区修复
# 修复内容：避免无分割稀疏解码路径分配未使用的 split-KV 累加器
FetchContent_Declare(
  flashmla
  GIT_REPOSITORY https://github.com/vllm-project/FlashMLA
  GIT_TAG 0397728d511c4e3d94ea3a01d8dda8654525a611 # 原为 a8f794d...，更新至包含 fix 的 commit
  GIT_PROGRESS TRUE
  CONFIGURE_COMMAND ""
  BUILD_COMMAND ""
)

评论区精华

无实质性的 review 讨论，仅 LucasWilkinson 批准了该 PR，且 review 评论为空。Claude bot 的自动 review 因 PR 来自 fork 而被禁用。

• 暂无高价值评论线程

风险与影响

• 风险：风险较低，但需注意：
  • 依赖版本更新可能引入 FlashMLA 内部行为的其他变化，需通过完整测试确认。
  • 新标签对应的 FlashMLA 版本可能与某些硬件或配置不兼容，尤其是在非 SM90 或不同 CUDA 版本环境下。
  • 变更仅通过有限的测试覆盖，未在多种真实负载下验证，可能遗漏边缘情况。
  • 影响：影响范围较小，仅涉及 FlashMLA 后端依赖，但解决了关键的运行时 CUDA OOM 问题，提升了 GLM-5.2 FP8 在高 TP 配置下的稳定性。对用户体验有积极影响，避免了 EngineCore 崩溃导致的请求失败。对团队而言，这是一个维护性的依赖更新，容易合并。
  • 风险标记：依赖升级, 缺少全面测试覆盖

关联脉络

• PR #53413 [Bug]: GLM-5.2 FP8 on 8×H200 dies with runtime CUDA OOM in sparse_decode_fwd: 本 PR 修复的 issue，关联 FlashMLA 稀疏解码工作区分配问题。