执行摘要
- 一句话：修复 DSv4 + DSPark 启动时 EP 未透传导致的启动错误
- 推荐动作：值得快速浏览的一行修复，但背后揭示了一个可复用的模式问题：draft parallel config 通过字段枚举方式复制 target 配置，容易遗漏新字段。建议关注是否可将 create_draft_parallel_config 重构为基于 target_parallel_config 的对象拷贝（仅覆写 pipeline_parallel_size 与 tensor_parallel_size），从根上避免同类遗漏。对于使用 DSv4 + DSPark 的用户，此修复是必合项。
功能与动机
PR body 给出了完整复现命令：vllm serve deepseek-ai/DeepSeek-V4-Pro-0813 并开启 --enable-expert-parallel、--moe-backend deep_gemm_mega_moe、--speculative-config 指定 method 为 dspark 等参数。启动日志显示异常链为 DSparkDeepseekV4Model -> DeepseekV4DecoderLayer -> DeepseekV4MoE（vllm/models/deepseek_v4/nvidia/model.py:768），最终抛出 NotImplementedError: DeepSeek V4 MegaMoE currently requires expert parallel。根因是 DSPark 的 draft 模型通过 SpeculativeConfig.create_draft_parallel_config 生成并行配置，而该工厂函数只复制了 tp_size、分布式后端等字段，未透传 enable_expert_parallel，导致 target 侧已开启 EP、draft 侧仍处于未开启状态，MegaMoE 初始化即报错。
实现拆解
- 问题定位：从堆栈看，异常在 vllm/models/deepseek_v4/nvidia/model.py:768 的 DeepseekV4MoE.init 抛出，判定条件依赖 parallel_config.enable_expert_parallel；而 DSPark 的 draft 模型使用的是 SpeculativeConfig.create_draft_parallel_config（vllm/config/speculative.py）生成的并行配置，该函数此前未复制该字段。
- 修复变更：在 create_draft_parallel_config 构造 ParallelConfig 时新增 enable_expert_parallel=target_parallel_config.enable_expert_parallel，让 draft 与 target 在 expert parallel 开启状态上保持一致；其余字段（tp_size、分布式后端、max_parallel_loading_workers、disable_custom_all_reduce、ray_workers_use_nsight、placement_group）不变。
- 验证过程：PR 作者以 body 中完整命令本地验证 APIServer 可正常启动；前后 4 次触发 Buildkite CI（#87708、#87916、#88351、#88644），期间 3 次 merge main 保持分支同步。
- 测试配套：未新增任何测试文件，也没有修改现有测试；该行为目前仅依赖 CI 中的模型启动类用例兜底。
关键文件：
vllm/config/speculative.py（模块 配置层；类别 source；类型 core-logic；符号 create_draft_parallel_config）: 修复的唯一文件：create_draft_parallel_config 为 draft worker 构建 ParallelConfig 时漏传 enable_expert_parallel，导致 DSv4 MegaMoE 在启动时误判未开启 expert parallel 而抛出 NotImplementedError。
关键符号：create_draft_parallel_config
关键源码片段
vllm/config/speculative.py
修复的唯一文件：create_draft_parallel_config 为 draft worker 构建 ParallelConfig 时漏传 enable_expert_parallel，导致 DSv4 MegaMoE 在启动时误判未开启 expert parallel 而抛出 NotImplementedError。
@staticmethod
def create_draft_parallel_config(
target_parallel_config: ParallelConfig,
speculative_draft_tensor_parallel_size: int,
) -> ParallelConfig:
"""为 draft worker 创建 parallel config，基本复制 target 配置，仅 tp_size 不同。"""
draft_parallel_config = ParallelConfig(
pipeline_parallel_size=1,
tensor_parallel_size=speculative_draft_tensor_parallel_size,
# 本次修复：透传 target 的 enable_expert_parallel。
# 此前 DSv4 + DSPark 在 --enable-expert-parallel 下，draft 模型仍以 EP 关闭状态初始化，
# 触发 NotImplementedError: DeepSeek V4 MegaMoE currently requires expert parallel。
enable_expert_parallel=target_parallel_config.enable_expert_parallel,
distributed_executor_backend=target_parallel_config.distributed_executor_backend,
max_parallel_loading_workers=target_parallel_config.max_parallel_loading_workers,
disable_custom_all_reduce=target_parallel_config.disable_custom_all_reduce,
ray_workers_use_nsight=target_parallel_config.ray_workers_use_nsight,
placement_group=target_parallel_config.placement_group,
)
return draft_parallel_config
评论区精华
本 PR 没有实质性的 review 交锋：review_comments 为空，sfeng33 直接 APPROVED；claude[bot] 仅例行提示该仓库配置为手动 review。流程上值得注意的是 4 个 commit 中有 3 个是 merge main 的分支同步，说明改动在等待 CI 期间持续跟进主分支，最终以最小 diff 合入 main。
风险与影响
- 风险：技术风险：
1) create_draft_parallel_config 采用字段枚举式复制，本次遗漏正是此类问题，未来若 ParallelConfig 新增字段仍可能再次漏传；
2) 无配套测试，DSv4 + DSPark + EP 组合的启动行为没有直接的回归保护；
3) enable_expert_parallel 现在会透传给所有 speculative 后端（EAGLE、MTP 等），对非 MoE 的 draft 模型无实际影响，但若未来出现不支持 EP 的 MoE draft 后端，需重新审视这一透传。兼容性方面，未开启 EP 时该字段为 False，现有行为不变，整体风险低。
- 影响：用户侧：使用 DeepSeek-V4-Pro + DSPark + deep_gemm_mega_moe + --enable-expert-parallel 的用户从启动失败转为可正常服务；系统侧：draft worker 与 target 的 expert parallel 状态保持一致，MoE 权重初始化与路由逻辑正确对齐；团队侧：改动面极小（1 文件 1 行），维护成本低，但需要为字段透传建立回归意识。
- 风险标记：缺少测试覆盖, 配置透传易遗漏, 启动阻断修复
关联脉络
- PR #56654 [MRV2] Revert explicit Triton JIT warmup migration: 同属 speculative-decoding 功能线，改动涉及 vllm/v1/worker/gpu/spec_decode 下的 MRV2 / DFlash speculator 路径；虽未触及本 PR 的配置工厂函数，但反映 draft 侧推理体系近期处于持续调整期。
参与讨论