执行摘要

• 一句话：SM120 稀疏 MLA 关闭 dense prefill，修复长提示词失败
• 推荐动作：建议精读这个小而关键的修复。它展示了 vLLM 后端能力声明（class attribute）如何驱动 prefill 路由，以及派生实现继承默认值时可能踩坑的模式。值得关注的决策点：用一行类属性覆盖代替改造路由逻辑，以最小变更面修复事故。若后续演进，可在类上补注释说明 why，避免维护者误删。

功能与动机

PR body 明确指出：SM120 稀疏后端继承了 supports_dense_mha_prefill = True，但当长提示词选择 dense 或 masked MHA prefill 时，共享 MLA 路由器访问 dense 路径状态（如 masked_mha_available），而该实现未定义此属性，导致 prefill 失败。作者用 GLM 5.2 FP8 在双 SM120 节点（TP=8、PP=2）上复现：精确事故提示词 3300 tokens，修复后返回 HTTP 200，路由边界 127/128/129 tokens 均通过。

实现拆解

实现拆解如下：

1. 变更入口：修改 vllm/v1/attention/backends/mla/flashinfer_mla_sparse_sm120.py，在 FlashInferMLASparseSM120Impl 类体顶部、is_sparse = True 之后追加类属性 supports_dense_mha_prefill = False（净增 1 行，无删除）。

2. 路由行为修正：该实现继承自 MLAAttentionImpl，基类默认声明 supports_dense_mha_prefill = True。共享 MLA 路由逻辑在 prefill 阶段依据该属性判断是否允许 dense/MHA prefill，并在允许时访问 dense 路径状态（如 masked_mha_available）。覆盖为 False 后，路由保持 prefill_backend 未设置，所有 prefill token 统一走该实现支持的稀疏 MQA 路径，decode 路径不变。

3. 测试配套：在 tests/v1/attention/test_flashinfer_sparse_mla_sm120_api.py 新增 test_sm120_backend_uses_sparse_mqa_for_prefill，通过 FlashInferMLASparseSM120Backend.get_impl_cls() 取实现类，断言 is_sparse 为真且 supports_dense_mha_prefill 为假，锁定后端能力声明的回归边界。

4. 验收与范围界定：PR body 记录模型级验证（GLM 5.2 FP8、TP=8、PP=2、双 SM120 节点），事故提示词及边界长度均返回 HTTP 200，无 worker/调度/NCCL/采样超时错误。其他 MLA 实现与 decode 路由保持原状。

关键文件：

• vllm/v1/attention/backends/mla/flashinfer_mla_sparse_sm120.py（模块 注意力后端；类别 source；类型 core-logic；符号 FlashInferMLASparseSM120Impl, supports_dense_mha_prefill）: 核心修复点：在 FlashInferMLASparseSM120Impl 类上显式覆盖基类继承的 supports_dense_mha_prefill = True，关闭 dense MHA prefill 能力广告，避免长提示词 prefill 访问未定义的 dense 路径状态。
• tests/v1/attention/test_flashinfer_sparse_mla_sm120_api.py（模块 注意力后端；类别 test；类型 test-coverage；符号 test_sm120_backend_uses_sparse_mqa_for_prefill）: 新增回归测试 test_sm120_backend_uses_sparse_mqa_for_prefill，验证 SM120 稀疏后端保持稀疏且不广告 dense MHA prefill，锁定本次修复的行为边界。

关键符号：FlashInferMLASparseSM120Impl.supports_dense_mha_prefill, test_sm120_backend_uses_sparse_mqa_for_prefill

关键源码片段

vllm/v1/attention/backends/mla/flashinfer_mla_sparse_sm120.py

核心修复点：在 FlashInferMLASparseSM120Impl 类上显式覆盖基类继承的 supports_dense_mha_prefill = True，关闭 dense MHA prefill 能力广告，避免长提示词 prefill 访问未定义的 dense 路径状态。

class FlashInferMLASparseSM120Impl(MLAAttentionImpl[FlashInferMLASparseMetadata]):
    """SM120 FlashInfer sparse-MLA 实现。"""
​
    is_sparse = True
​
    # 关键修复：显式关闭 dense MHA prefill 能力声明。
    # 基类 MLAAttentionImpl 默认声明 supports_dense_mha_prefill = True，
    # 但本实现只提供稀疏 forward_mqa 路径；共享 MLA 路由若在长提示词场景
    # 选中 dense/MHA prefill，会读取 masked_mha_available 等 dense 状态，
    # 而本类未定义该属性，导致 prefill 失败。
    # 声明为 False 后，prefill_backend 保持未设置，所有 prefill token 走
    # 稀疏 MQA 路径，decode 路由不受影响。
    supports_dense_mha_prefill = False

tests/v1/attention/test_flashinfer_sparse_mla_sm120_api.py

新增回归测试 test_sm120_backend_uses_sparse_mqa_for_prefill，验证 SM120 稀疏后端保持稀疏且不广告 dense MHA prefill，锁定本次修复的行为边界。

def test_sm120_backend_uses_sparse_mqa_for_prefill() -> None:
    # 回归测试：SM120 稀疏后端必须保持稀疏，且不得广告 dense MHA prefill。
    # 这对应 flashinfer_mla_sparse_sm120.py 中的能力声明覆盖，防止未来
    # 继承默认值变化或有人误删 supports_dense_mha_prefill = False，导致
    # 长提示词 prefill 再次踩到 masked_mha_available 未定义的问题。
    impl_cls = FlashInferMLASparseSM120Backend.get_impl_cls()
​
    assert impl_cls.is_sparse
    assert not impl_cls.supports_dense_mha_prefill

评论区精华

唯一的实质 review 评论来自 zyongye，针对测试文件新增测试块 line 43 给出 "Don't include this"。从最终合并结果看，测试函数与两个断言均保留，reviewer 随后 APPROVED 并触发 Buildkite CI #84292。该评论大概率针对新增块末尾的多余空行或属于非阻塞性意见；因材料未含更完整讨论上下文，确切断言对象无法确认。

• 测试新增块中的某一行为是否应删除 (style): 最终 PR 合并，zyongye 给出 APPROVED 并触发 CI；评论未导致任何代码删除，确切指代对象无法从材料确认。

风险与影响

• 风险：风险整体较低，属于最小突变修复，但仍需关注以下三点：

• 性能取舍：dense prefill 被彻底禁用后，长提示词 prefill 统一走稀疏 MQA 路径，可能在部分场景损失 prefill 吞吐，这是换取功能正确性的必要权衡，PR 中未附性能对比数据。

• 回归防护薄弱：新增测试仅做类级属性断言，不覆盖真实路由集成行为；模型级验证（3300 tokens 等）为人工执行、未固化到 CI，后续若共享路由逻辑变化，该测试未必能拦截。
• 维护陷阱：代码中未对 supports_dense_mha_prefill = False 添加注释说明原因，未来 FlashInfer 若补齐 dense 路径，维护者可能误删该覆盖，重新引入 prefill 崩溃。
• 影响：影响范围集中在 NVIDIA SM120 平台（如 B200/GB200）上使用 FlashInfer 稀疏 MLA 的模型（如 GLM 系列、DeepSeek 系列）的长提示词 prefill 场景，修复了此前必然失败的功能缺陷。对系统而言，只是修正一个后端的能力声明，路由与调度逻辑均未改动；对团队而言，这是一次教科书式的『继承默认值 vs 显式覆盖』修复，可复用到其他后端实现。
• 风险标记：能力声明覆盖无注释说明, 回归测试仅覆盖类级属性, 性能影响未量化

关联脉络

• PR #46994 MTP top-k buffer handling for FlashInfer sparse SM120: PR body 明确提及该 PR 也改动 FlashInferMLASparseSM120Impl，但仅涉及 MTP top-k buffer 处理，不修改 prefill 能力与路由；与本 PR 共享同一后端实现类，属于同一文件的功能演进脉络。