执行摘要

• 一句话：删除 MoE 重构遗留代码，清理 22 个文件
• 推荐动作：值得快速浏览，特别是 fused_moe_method_base.py 与 parallel_state.py 的删除逻辑，可作为“大重构后清理 legacy 接口”的参考案例。若在维护第三方 MoE 量化插件，需检查是否依赖被删除的 maybe_make_prepare_finalize / select_gemm_impl。

功能与动机

PR body 明确说明目的："Remove deprecated MoE methods that are no longer needed due to oracle/modular kernel refactoring." 在 modular kernel 重构完成后，这些旧方法已无调用方，保留只会增加维护负担，并可能误导后续开发者继续走旧路径。删除后 MoE kernel 初始化入口唯一化，接口契约更干净。

实现拆解

1. 清理基类入口：vllm/model_executor/layers/fused_moe/fused_moe_method_base.py 删除 maybe_make_prepare_finalize 与 select_gemm_impl 两个方法及 modular_kernel 的类型导入。删除后 FusedMoEMethodBase 只保留 get_fused_moe_quant_config 抽象方法和属性，所有子类必须直接拥有 moe_kernel。

2. 清理量化方法 stub：modelopt.py、compressed_tensors_moe_w4a4_nvfp4.py、compressed_tensors_moe_w8a8_fp8.py、compressed_tensors_moe_w8a8_int8.py、compressed_tensors_moe_w8a8_mxfp8.py、fp8.py、online/moe_base.py、unquantized_fused_moe_method.py、fused_moe_modular_method.py 中删除同名 stub 与仅为这些 stub 服务的 import ... modular_kernel as mk 等导入。这些 stub 的作用只是抛 ValueError 防止误调，删除后契约更统一。

3. 删除 MoERunner 的初始化入口：vllm/model_executor/layers/fused_moe/runner/moe_runner.py 删除 maybe_init_modular_kernel（约 41 行），moe_runner_interface.py 删除对应接口定义。该函数原先在权重加载后被调用，负责把 quant_method 替换为 FusedMoEModularMethod；现在 kernel 初始化已由各量化方法自行完成，不再需要 Runner 介入。

4. 清理分布式调用链：vllm/distributed/parallel_state.py 与 base_device_communicator.py 中 prepare_communication_buffer_for_model 不再遍历模型调用 MoE kernel 初始化；vllm/distributed/elastic_ep/elastic_execute.py 删除 prepare_new_worker 相关调用；vllm/v1/worker/gpu_model_runner.py 与 vllm/v1/worker/gpu/model_runner.py 同步移除对应调用（含 1 行新增，保留必要的通信缓冲准备），确保 V1 执行器和弹性 EP 路径不残留旧入口。

5. 配套调整与验证：vllm/lora/layers/fused_moe.py 调整导入以对齐新接口；commit 历史中 "fix test" 表示修复了受影响的测试。测试计划为 Lint/CI，作者与维护者各触发一次 Buildkite CI（#82530、#82549），均通过。

关键文件：

• vllm/model_executor/layers/fused_moe/fused_moe_method_base.py（模块 MoE 方法；类别 source；类型 data-contract；符号 maybe_make_prepare_finalize, select_gemm_impl）: MoE 方法的抽象基类，删除了 maybe_make_prepare_finalize 和 select_gemm_impl 两个 legacy 入口，是整个清理的核心。
• vllm/model_executor/layers/fused_moe/runner/moe_runner.py（模块 MoE 执行器；类别 source；类型 core-logic；符号 maybe_init_modular_kernel）: 删除了 MoERunner.maybe_init_modular_kernel，该函数是旧 MoE 层在权重加载后统一初始化 modular kernel 的入口，是调用链清理的关键。
• vllm/model_executor/layers/fused_moe/unquantized_fused_moe_method.py（模块 非量化 MoE；类别 source；类型 data-contract；符号 maybe_make_prepare_finalize, select_gemm_impl）: 非量化 MoE 方法类，删除了两个抛出 ValueError 的 legacy stub，并移除相关导入。
• vllm/model_executor/layers/quantization/modelopt.py（模块 量化层；类别 source；类型 data-contract；符号 maybe_make_prepare_finalize）: 代表量化方法系列，删除了 ModelOpt FP8/NVFP4 等多个类中的 maybe_make_prepare_finalize stub，验证所有量化路径已迁移。
• vllm/distributed/parallel_state.py（模块 分布式状态；类别 source；类型 core-logic；符号 prepare_communication_buffer_for_model）: 分布式初始化流程中的 prepare_communication_buffer_for_model 不再调用 MoE 层的 kernel 初始化，是调用链清理的关键一环。

关键符号：maybe_make_prepare_finalize, select_gemm_impl, maybe_init_modular_kernel, prepare_communication_buffer_for_model, prepare_new_worker, FusedMoEModularMethod.make

关键源码片段

vllm/model_executor/layers/fused_moe/fused_moe_method_base.py

MoE 方法的抽象基类，删除了 maybe_make_prepare_finalize 和 select_gemm_impl 两个 legacy 入口，是整个清理的核心。

# vllm/model_executor/layers/fused_moe/fused_moe_method_base.py
​
class FusedMoEMethodBase(QuantizeMethodBase):
    def __init__(self, moe: FusedMoEConfig):
        super().__init__()
        self.moe: FusedMoEConfig = moe
        self.moe_quant_config: FusedMoEQuantConfig | None = None
        self.moe_kernel: mk.FusedMoEKernel | None = None
​
    @property
    def supports_internal_mk(self) -> bool:
        # NOTE(rob): 临时属性，表示是否已完成到新 internal MK 接口的迁移。
        return self.moe_kernel is not None
​
    # 本次删除：maybe_make_prepare_finalize 与 select_gemm_impl。
    # 这两个方法在 oracle/modular kernel 重构前由 MoERunner 调用，
    # 用于在权重加载后统一创建 prepare/finalize 并选择 GEMM 实现；
    # 重构后各量化方法都在 process_weights_after_loading 中自行构建
    # moe_kernel，基类不再需要保留这两个入口。
​
    @abstractmethod
    def get_fused_moe_quant_config(
        self, layer: "RoutedExperts"
    ) -> FusedMoEQuantConfig | None:
        raise NotImplementedError
​
    @property
    def topk_indices_dtype(self) -> torch.dtype | None:
        # 若 moe_kernel 已构建，则直接透传 prepare_finalize 的 dtype 决策。
        if self.moe_kernel is not None:
            return self.moe_kernel.prepare_finalize.topk_indices_dtype()
        return None

vllm/model_executor/layers/fused_moe/runner/moe_runner.py

删除了 MoERunner.maybe_init_modular_kernel，该函数是旧 MoE 层在权重加载后统一初始化 modular kernel 的入口，是调用链清理的关键。

# vllm/model_executor/layers/fused_moe/runner/moe_runner.py
​
    #########################################################
    #
    # Old methods from FusedMoE layer. Remove when possible.
    #
    #########################################################
​
    # 该区块原包含 maybe_init_modular_kernel 的完整实现：
    # 它会根据 routing_tables 调用 quant_method.maybe_make_prepare_finalize，
    # 再用 FusedMoEModularMethod.make 替换 quant_method。
    # 由于所有量化方法现已在 process_weights_after_loading 中构建
    # moe_kernel，该方法及其调用链已全部删除，区块保留但已为空。
​
    #
    # Properties
    #
​
    @property
    def layer_id(self):
        # Delayed import to avoid circular dependency
        from vllm.model_executor.models.utils import extract_layer_index
​
        return extract_layer_index(self.layer_name)

评论区精华

该 PR 的 review 流程非常简洁：claude[bot] 因 PR 来自 fork 而禁用自动 review，mgoin 通过 /ci run 触发 Buildkite CI 并两次 approve。没有出现关于设计取舍的争论——被删除的 maybe_make_prepare_finalize、select_gemm_impl 本来就是抛 ValueError 的 stub，属于低风险收尾。

• fork 自动 review 与人工把关 (other): mgoin 以 /ci run 触发 CI 并 approve 两次，完成人工把关。
• CI 回归验证 (testing): 两次 CI 均通过，PR 合并。

风险与影响

• 风险：
  1. 外部兼容风险：删除 maybe_make_prepare_finalize 后，仓库内调用点已清理，但第三方 MoE 量化插件若仍调用该方法会直接 AttributeError。
  2. 分布式初始化风险：prepare_communication_buffer_for_model 属于分布式初始化核心路径，删改后需依赖 CI 覆盖 P2P 通信缓冲场景；elastic_execute.py 中删除 prepare_new_worker 相关逻辑，弹性扩展场景需要额外关注。
  3. 量化路径覆盖风险：涉及 FP8、INT8、MXFP8、NVFP4 等多条量化路径，本次没有新增针对性测试，回归风险主要靠既有 CI 兜底。
     - 影响：用户无感知，纯内部清理。系统层面净删 292 行，MoE kernel 初始化路径唯一化，后续新增量化方法只需照 process_weights_after_loading 模式构建 moe_kernel。团队层面 mrv2 重构进入收尾阶段，旧接口兼容负担消除，后续开发不再需要区分 legacy 与新路径。
     - 风险标记：跨模块调用链删除, 量化路径全面改动, 依赖 CI 验证, 无新增测试

关联脉络

• PR #44359 [MoE] Share apply_moe_activation support metadata: 同属 MoE modular kernel 重构脉络，也涉及 fused_moe 下多个文件与后端契约统一；本 PR 是在其基础上的 legacy 清理。
• PR #51093 [Bugfix][Humming] Preserve ModelOpt FP8 weight dimensions: 同样改动 modelopt.py 量化路径，本 PR 后续删除了其中 MoE 方法里不再使用的 legacy stub，属于同一区域的延续清理。