执行摘要

• 一句话：DSV4 默认切 MRV2，拒绝 MRV1 分段 CUDA 图
• 推荐动作：值得精读。这是一个用最小改动（2 个文件、73 行）封堵静默正确性缺陷的典型案例，可借鉴几点：
  1) fail closed 守卫放在 CUDA graph 模式解析之后，保证基于最终生效配置校验；
  2) 拒绝与放行两侧均用参数化测试覆盖边界，并通过鸭子类型对象直接调用校验方法，成本低且覆盖完整；
  3) 用精确的 GSM8K + MTP 接受率数据支撑「为什么只拦这一种组合」的决策。可结合 #51750 对照阅读，理解「保留演进 vs 精确回退」两种修复哲学的取舍。

功能与动机

PR body 明确指出：#51430 暴露了 legacy V1 model runner 中 breakable PIECEWISE CUDA-graph 路径的正确性问题，而同一 attention 实现在 Model Runner V2 下保持正常 GSM8K 精度（0.9500-0.9570）与 MTP 接受率（80.7%-82.1%）；MRV1 + PIECEWISE 下 GSM8K 跌至 0.0311、MTP 接受率崩至 3.1%-5.5%。因此需要一种方式「避免静默输出损坏（silent output corruption）」，同时保留不触发受影响路径的 MRV1 配置。与 #51750 的 revert 方案相比，本 PR 选择保留 attention 实现、默认切换 MRV2 并对已知损坏组合 fail closed。

实现拆解

1. 默认 runner 切换：在 vllm/config/vllm.py 顶部的 DEFAULT_V2_MODEL_RUNNER_ARCHITECTURES 中新增 DeepseekV4ForCausalLM，使 DSV4 与 DeepseekV2、Qwen2Moe 等架构一致默认走 MRV2；ROCM_EXCLUDED_V2_MODEL_RUNNER_ARCHITECTURES 不含 DSV4，ROCm 排除逻辑不受影响。
2. 新增守卫常量与方法：定义 MRV1_UNSUPPORTED_PIECEWISE_CUDAGRAPH_ARCHITECTURES = frozenset({"DeepseekV4ForCausalLM"})；新方法 _validate_mrv1_piecewise_cudagraph 按短路顺序执行——启用 MRV2 直接返回、model_config 为空返回、has_piecewise_cudagraphs() 为 False 返回，最后才按架构名匹配黑名单并抛 ValueError，错误信息给出两条出路：改用 MRV2 或关闭 PIECEWISE。
3. 校验时机：在 __post_init__ 中所有可能改写 cudagraph_mode 的逻辑（spec decode capture sizes、sequence parallelism 相关调整）之后调用，保证基于最终生效的模式校验，与既有 final check of cudagraph mode 的检查位置相邻。
4. 测试配套：tests/test_config.py 新增两组参数化测试——拒绝路径覆盖 PIECEWISE 与 FULL_AND_PIECEWISE，放行路径覆盖 MRV2 + PIECEWISE、MRV1 + NONE/FULL/FULL_DECODE_ONLY、非 DSV4 架构（Llama）五种组合；另在既有默认 runner 参数化样例中补充 deepseek-ai/DeepSeek-V4-Flash。测试用 unbound 方法 + SimpleNamespace 鸭子类型对象直接调用校验逻辑，无需构造完整 VllmConfig。作者给出 29 passed，并通过 ruff / mypy 检查。

关键文件：

• vllm/config/vllm.py（模块 配置层；类别 source；类型 core-logic；符号 _validate_mrv1_piecewise_cudagraph, MRV1_UNSUPPORTED_PIECEWISE_CUDAGRAPH_ARCHITECTURES）: 核心改动：新增 MRV1 piecewise CUDA graph 守卫常量与校验方法，并将 DeepseekV4ForCausalLM 加入默认 MRV2 架构集合；其他架构与合法组合不受影响。
• tests/test_config.py（模块 配置测试；类别 test；类型 test-coverage；符号 test_deepseek_v4_rejects_mrv1_piecewise_cudagraph, test_mrv1_piecewise_cudagraph_allowed）: 参数化测试覆盖拒绝与放行两侧边界，并补充 DeepSeek-V4-Flash 默认 runner 样例，是守卫逻辑可回归的保障。

关键符号：_validate_mrv1_piecewise_cudagraph, test_deepseek_v4_rejects_mrv1_piecewise_cudagraph, test_mrv1_piecewise_cudagraph_allowed

关键源码片段

vllm/config/vllm.py

核心改动：新增 MRV1 piecewise CUDA graph 守卫常量与校验方法，并将 DeepseekV4ForCausalLM 加入默认 MRV2 架构集合；其他架构与合法组合不受影响。

# vllm/config/vllm.py —— MRV1 PIECEWISE 守卫
# 已知不兼容组合：DeepSeek V4 + MRV1 + piecewise CUDA graphs（#51430 引入正确性回归）
MRV1_UNSUPPORTED_PIECEWISE_CUDAGRAPH_ARCHITECTURES = frozenset(
    {"DeepseekV4ForCausalLM"}
)
​
# DeepSeek V4 与 DeepseekV2、Qwen2Moe 等架构一致，默认使用 MRV2
DEFAULT_V2_MODEL_RUNNER_ARCHITECTURES = frozenset(
    {
        "DeepseekV2ForCausalLM",
        "DeepseekV4ForCausalLM",
        "GraniteMoeForCausalLM",
        "InklingForCausalLM",
        "InklingForConditionalGeneration",
        "KimiK3ForConditionalGeneration",
        "LongcatFlashNgramForCausalLM",
        "Qwen2MoeForCausalLM",
    }
)
​
​
class VllmConfig:
    def _validate_mrv1_piecewise_cudagraph(self) -> None:
        """在 MRV1 下拒绝 DeepSeek V4 的 piecewise CUDA 图，避免静默输出损坏。"""
        if self.use_v2_model_runner:
            return # MRV2 路径无此正确性问题
        model_config = self.model_config
        if model_config is None:
            return
        # 只有最终生效的 cudagraph_mode 含 piecewise 时才需要拦截
        if not self.compilation_config.cudagraph_mode.has_piecewise_cudagraphs():
            return
        architectures = getattr(model_config, "architectures", [])
        if any(
            arch in MRV1_UNSUPPORTED_PIECEWISE_CUDAGRAPH_ARCHITECTURES
            for arch in architectures
        ):
            raise ValueError(
                "DeepSeek V4 does not support PIECEWISE CUDA graphs with "
                "Model Runner V1. Use Model Runner V2 or disable PIECEWISE "
                "CUDA graphs."
            )
​
​
# —— 调用点（位于 vllm/config/vllm.py 的 __post_init__ 内）——
# 置于所有可能改写 cudagraph_mode 的逻辑之后，紧邻既有的
# "final check of cudagraph mode after all possible updates"，
# 保证守卫基于最终生效的模式执行，而非解析前的初始值。
self._validate_mrv1_piecewise_cudagraph()

tests/test_config.py

参数化测试覆盖拒绝与放行两侧边界，并补充 DeepSeek-V4-Flash 默认 runner 样例，是守卫逻辑可回归的保障。

# tests/test_config.py —— 拒绝与放行两侧的边界覆盖
@pytest.mark.parametrize(
    "cudagraph_mode",
    [CUDAGraphMode.PIECEWISE, CUDAGraphMode.FULL_AND_PIECEWISE],
)
def test_deepseek_v4_rejects_mrv1_piecewise_cudagraph(cudagraph_mode):
    config = SimpleNamespace(
        use_v2_model_runner=False,
        model_config=SimpleNamespace(architectures=["DeepseekV4ForCausalLM"]),
        compilation_config=SimpleNamespace(cudagraph_mode=cudagraph_mode),
    )
    # 用 unbound 方法 + 鸭子类型对象直接测试静态校验逻辑，避免构造完整配置
    with pytest.raises(ValueError, match="DeepSeek V4 does not support PIECEWISE"):
        VllmConfig._validate_mrv1_piecewise_cudagraph(config)
​
​
@pytest.mark.parametrize(
    ("use_v2_model_runner", "architecture", "cudagraph_mode"),
    [
        (True, "DeepseekV4ForCausalLM", CUDAGraphMode.PIECEWISE), # MRV2 放行
        (False, "DeepseekV4ForCausalLM", CUDAGraphMode.NONE), # eager 放行
        (False, "DeepseekV4ForCausalLM", CUDAGraphMode.FULL), # 整图放行
        (False, "DeepseekV4ForCausalLM", CUDAGraphMode.FULL_DECODE_ONLY),
        (False, "LlamaForCausalLM", CUDAGraphMode.PIECEWISE), # 非 DSV4 放行
    ],
)
def test_mrv1_piecewise_cudagraph_allowed(
    use_v2_model_runner, architecture, cudagraph_mode
):
    config = SimpleNamespace(
        use_v2_model_runner=use_v2_model_runner,
        model_config=SimpleNamespace(architectures=[architecture]),
        compilation_config=SimpleNamespace(cudagraph_mode=cudagraph_mode),
    )
    VllmConfig._validate_mrv1_piecewise_cudagraph(config) # 预期不抛错

评论区精华

该 PR 没有实质性的 code review 评论，仅有 claude[bot] 的自动化提示（仓库配置为人工 review，可 @claude review 触发）。真正有价值的方案讨论记录在 PR body 的 Relationship to #51750 段落：作者明确本 PR 是 #51750 的替代方案而非重复——#51750 精确 revert #51430、恢复更宽的 MRV1 eager 区域；本 PR 保留 attention 实现不变，默认把 DeepSeek V4 导向已正确的 MRV2，并对用户显式触达的 MRV1 PIECEWISE 路径 fail closed。作者还说明已做重复 PR 搜索，确认没有其他开放 PR 添加该配置守卫，并按 AI assistance 要求声明提交者在 ready 前需逐行 review 并独立确认测试结果。

• 方案取舍：#51750 revert 与本 PR fail closed 守卫 (design): 采纳守卫方案：保留 #51430 的 attention 改动，通过配置层拦截已知错误组合，报错信息指引用户改用 MRV2 或关闭 PIECEWISE。
• claude[bot] 自动 review 提示 (other): 无技术性评审意见；评审依赖人工与 CI（Buildkite #83314）。

风险与影响

• 风险：
  • 默认行为变更：DSV4 用户默认从 MRV1 切到 MRV2。body 中的验证仅覆盖 GB200 + TP=2 + FP4 indexer cache + MTP 2 个草稿 token 场景，其他硬件（ROCm、XPU、Intel GPU）与 TP 尺寸下 MRV2 行为未经同等级验证；ROCM_EXCLUDED_V2_MODEL_RUNNER_ARCHITECTURES 已把 KimiK3 排除在默认 MRV2 之外，说明 ROCm 上 MRV2 仍有已知问题，DSV4 在 ROCm 上是否安全不在本次验证范围。
  • 启动失败（误拒绝）：显式设置 VLLM_USE_V2_MODEL_RUNNER=0 且使用 PIECEWISE 的存量脚本会直接抛 ValueError，属于有意 fail closed，但需要向用户明确迁移路径（切 MRV2 或关 PIECEWISE）。
  • 守卫维护成本：校验依赖 architectures 名称精确匹配，未来若出现子类或别名架构需同步维护 MRV1_UNSUPPORTED_PIECEWISE_CUDAGRAPH_ARCHITECTURES；该常量与默认 runner 集合同处 vllm/config/vllm.py，需保持一致性。
  • 修复面有限：本 PR 是「守卫」而非「修复」，MRV1 + PIECEWISE 的底层正确性缺陷在 #51430 引入后依然存在，只是被配置层拦截。
• 影响：
  • 用户与部署影响：DeepSeek V4（含 V4-Flash）默认 runner 变为 MRV2，属于可见的默认行为变更；MRV1 仅在 eager/NONE、FULL、FULL_DECODE_ONLY 下可用；非法组合在启动早期即失败并给出清晰指引，避免静默输出损坏导致评测或生产质量事故。
  • 系统影响：改动集中在配置校验阶段，不涉及内核、attention 后端或调度器运行时，代码回归面小；但默认 runner 切换意味着 DSV4 用户实际执行路径变化，性能与显存特征可能不同。
  • 团队影响：该 PR 与 #51750 构成「守卫 vs revert」两条路线的竞争，最终选择保留 #51430 的 attention 改动 + 默认 MRV2，与 vLLM 整体向 MRV2 迁移的方向一致。
  • 风险标记：默认行为变更, 新增启动期校验, 架构名精确匹配守卫, 守卫而非修复

关联脉络

• PR #46849 [MRV2][Spec] Fuse AR speculator multi-step decodes back into one CUDA graph: 同属 MRV2 + CUDA graph 工作线：该 PR 把 AR speculator 多步 decode 融合进单个 CUDA graph 并按 attention 后端能力回退，与本 PR 守护的 MRV2 piecewise 路径同源；本 PR 的校验正是为了把 DSV4 稳定导向这条已验证路径。
• PR #51725 [Perf] Adaptive budget for spec scheduled token, 55%~65% E2E TTFT Improvement: MRV2 调度器 + 投机解码预算自适应，主要面向 DeepSeek 系/Kimi 模型；与本 PR 的 MTP 场景（DSV4 + 投机 token）相互印证 MRV2 下的调度与草稿 token 策略仍在持续演进。
• PR #51473 [ROCm][DSV4] Preserve native MXFP4 TP8 shard allocation: 同为 DeepSeek V4 模型支持工作（MXFP4 权重分片），说明 DSV4 多后端适配正在铺开；本 PR 默认切 MRV2 后，DSV4 在 ROCm 等平台的 MRV2 兼容性需要与这类工作联动验证。