执行摘要

• 一句话：修复 DeepSeek V4 MegaMoE 未启用 EP 时的错误行为
• 推荐动作：该 PR 改动较小且逻辑清晰，不值得深入代码细节。但可作为“早期验证与优雅错误处理”的范例：对无效配置组合应在初始化时主动报错，而非静默降级。

功能与动机

当用户使用 moe_backend=deep_gemm_mega_moe 但不启用 enable_expert_parallel 时，DeepSeek V4 模型会静默将 use_mega_moe 置为 False，造成配置无效但不报错，后续可能出现未定义行为或难以追踪的错误。该 PR 旨在提供清晰的错误提示并确保配置一致性。

实现拆解

1. DeepseekV4MoE.__init__ 中移除条件判断：将 self.use_mega_moe 的赋值从原来的“仅当 EP 启用时检查 backend”改为无条件根据 kernel_config.moe_backend 设置，不再依赖 enable_expert_parallel 分支。
2. 添加预检异常：在设置 use_mega_moe 后，增加检查：若 self.use_mega_moe 为 True 但 enable_expert_parallel 为 False，则直接抛出 NotImplementedError，提示用户启用 EP 或更换 MoE backend。
3. DeepseekV4Model.__init__ 中应用相同逻辑：保持与 DeepseekV4MoE 一致的行为，确保在模型级别也具备相同的校验，尽早失败。
4. 移除原有 else 分支：删除“else: self.use_mega_moe = False”的隐式降级逻辑，使状态更明确。

关键文件：

• vllm/model_executor/models/deepseek_v4.py（模块 模型层；类别 source；类型 data-contract；符号 DeepseekV4MoE.init, DeepseekV4Model.init）: DeepSeek V4 模型主文件，包含 MoE 层和整体模型的初始化逻辑。本 PR 所有变更均在此文件内。

关键符号：DeepseekV4MoE.init, DeepseekV4Model.init

关键源码片段

vllm/model_executor/models/deepseek_v4.py

DeepSeek V4 模型主文件，包含 MoE 层和整体模型的初始化逻辑。本 PR 所有变更均在此文件内。

# vllm/model_executor/models/deepseek_v4.py DeepseekV4MoE.__init__ ( 精简关键部分 )
​
class DeepseekV4MoE(nn.Module):
    def __init__(self, vllm_config: VllmConfig, prefix: str = ""):
        super().__init__()
        self.tp_size = get_tensor_model_parallel_world_size()
        config = vllm_config.model_config.hf_config
        quant_config = vllm_config.quant_config
        self.prefix = prefix
​
        # 直接根据 moe_backend 设置 flag，不再依赖 enable_expert_parallel
        self.use_mega_moe = (
            vllm_config.kernel_config.moe_backend == "deep_gemm_mega_moe"
        )
        # 如果使用了 MegaMoE 但未启用 Expert Parallel，直接抛错，防止静默降级
        if self.use_mega_moe and not vllm_config.parallel_config.enable_expert_parallel:
            raise NotImplementedError(
                "DeepSeek V4 MegaMoE currently requires expert parallel. "
                "Enable it with --enable-expert-parallel, or pick a different "
                "moe backend."
            )
        # ... 后续初始化代码保持不变 ...
​
# 相同的改动也应用于 DeepseekV4Model.__init__

评论区精华

Review 中 gemini-code-assist[bot] 指出：DeepseekV4Model 中同样缺少该守卫检查，建议补上以确保一致性，并让模型在创建层之前就失败。这一建议被采纳，最终提交包含了在 DeepseekV4Model 中的相同检查。

• DeepseekV4Model 缺少相同的 MegaMoE 守卫检查 (correctness): 已采纳，在最终提交中为 DeepseekV4Model 也添加了相同的 NotImplementedError 检查。

风险与影响

• 风险：变更极小，仅涉及两个 __init__ 方法中的控制流和异常逻辑。风险低，但需确保：1）所有调用处不能假设 use_mega_moe 只在 EP 下为 True（已通过异常避免）；2）异常信息中提到的“--enable-expert-parallel”选项名称需与实际 CLI 参数一致。
• 影响：用户侧：原来在纯 TP 下误设 moe_backend=deep_gemm_mega_moe 时，模型会静默退化为非 MegaMoE 路径；现在会直接报错，引导用户正确配置。系统侧：不影响已有正常工作流，仅增加一段初始化时的条件判断。
• 风险标记：配置校验变更, 缺少测试覆盖

关联脉络

• PR #41986 [Bugfix] Add swiglu limits to deepgemm fp8 methods: 同样涉及 DeepSeek V4 的 MoE 和 DeepGemm 后端，相同的文件范围。
• PR #41263 [DSV4] Fuse norm and router for low latency scenario: 另一项针对 DeepSeek V4 的 MoE 优化变更，均涉及 deepseek_v4.py。