执行摘要

• 一句话：修复 EXAONE 4.5 与 Transformers 更新对齐
• 推荐动作：值得精读，特别是 EXAONE 4.5 模型维护者。建议在后续 PR 中修复 review 指出的两个问题：MTP 层前缀偏移和 PP 分片。当前版本对于非 PP 单卡用户是安全的，PP 用户应暂缓使用 MTP 模式。

功能与动机

关联 Issue #42281 报告 EXAONE 4.5 导入失败，原因是 Transformers 更新后 Exaone4_5_ImageProcessor 不再存在。PR body 指明需与 Transformers 更新对齐（https://github.com/huggingface/transformers/pull/45471）。

实现拆解

1. 移除废弃导入与方法（vllm/model_executor/models/exaone4_5.py）：从导入中删除 Exaone4_5_ImageProcessor，并移除 Exaone4_5_ProcessingInfo 类中的 get_image_processor 方法，因为 Transformers 已不再提供该处理器。
2. 重构 MTP 模型配置引用（vllm/model_executor/models/exaone4_5_mtp.py）：将 Exaone4_5MultiTokenPredictor 的所有配置引用从顶层 config 切换到 text_config（即 config.text_config），以匹配 Transformers 中 EXAONE 4.5 配置结构的更新（从扁平结构改为嵌套的 text_config/vision_config）。
3. 为 EXAONE 4.5 MTP 添加 forward 方法并引入 PP 支持（vllm/model_executor/models/exaone4_5_mtp.py）：新增 forward 方法，利用 get_pp_group().is_first_rank 在流水线并行的第一级处理输入嵌入和隐藏状态的拼接，并执行 MTP 核心逻辑（pre-fc norm、拼接、fc 投影、残差、逐层 Transformer、最终 norm 与语言模型头）。同时引入 IntermediateTensors 支持以传递中间张量，为 PP 场景提供基础。

关键文件：

• vllm/model_executor/models/exaone4_5_mtp.py（模块 模型层；类别 source；类型 core-logic；符号 forward）: 核心变更文件：重构配置引用，新增 forward 方法并引入 PP 支持，改动量最大（+53/-9），但 review 指出仍有两个未解决的高优先级问题。
• vllm/model_executor/models/exaone4_5.py（模块 模型层；类别 source；类型 data-contract；符号 get_image_processor）: 次要变更文件：移除废弃的 Exaone4_5_ImageProcessor 导入及相关方法，修复导入失败 bug。

关键符号：forward, get_image_processor

关键源码片段

vllm/model_executor/models/exaone4_5_mtp.py

核心变更文件：重构配置引用，新增 forward 方法并引入 PP 支持，改动量最大（+53/-9），但 review 指出仍有两个未解决的高优先级问题。

# 文件 : vllm/model_executor/models/exaone4_5_mtp.py
# 重点展示新增的 forward 方法和 text_config 重构后的 __init__
​
@support_torch_compile
class Exaone4_5MultiTokenPredictor(ExaoneMoeMultiTokenPredictor):
    def __init__(self, *, vllm_config: VllmConfig, prefix: str = ""):
        # ...
        config = model_config.hf_config
        text_config = config.text_config # 新增：从嵌套配置中提取文本配置
        self.config = config
        # 以下所有 config.xxx 都改为 text_config.xxx
        self.mtp_start_layer_idx = text_config.num_hidden_layers
        self.embed_tokens = VocabParallelEmbedding(
            self.vocab_size,
            text_config.hidden_size, # 之前是 config.hidden_size
            org_num_embeddings=config.vocab_size,
        )
        self.fc = ColumnParallelLinear(
            text_config.hidden_size * 2,
            text_config.hidden_size,
            gather_output=True,
            bias=False,
            return_bias=False,
            quant_config=quant_config,
            prefix=f"{prefix}.fc",
        )
        self.layers = nn.ModuleList(
            Exaone4DecoderLayer(
                text_config, # 之前是 vllm_config.model_config.hf_config
                quant_config=quant_config,
                # 注意 : review 指出 prefix 应加偏移量 idx + self.mtp_start_layer_idx
                prefix=f"{prefix}.layers.{idx}",
            )
            for idx in range(self.num_mtp_layers)
        )
        self.norm = RMSNorm(text_config.hidden_size, eps=text_config.rms_norm_eps)
        self.pre_fc_norm_hidden = RMSNorm(text_config.hidden_size, eps=text_config.rms_norm_eps)
        self.pre_fc_norm_embedding = RMSNorm(text_config.hidden_size, eps=text_config.rms_norm_eps)
​
    def forward(
        self,
        input_ids: torch.Tensor,
        positions: torch.Tensor,
        hidden_states: torch.Tensor,
        intermediate_tensors: IntermediateTensors | None = None,
        inputs_embeds: torch.Tensor | None = None,
        spec_step_idx: int = 0,
    ) -> torch.Tensor:
        # 只在 PP 第一级执行嵌入和拼接（引入 PP 支持的核心逻辑）
        if get_pp_group().is_first_rank:
            if inputs_embeds is None:
                inputs_embeds = self.get_input_embeddings(input_ids)
            assert hidden_states.shape[-1] == inputs_embeds.shape[-1]
            inputs_embeds = self.pre_fc_norm_embedding(inputs_embeds)
            hidden_states = self.pre_fc_norm_hidden(hidden_states)
            hidden_states = torch.cat([inputs_embeds, hidden_states], dim=-1)
            hidden_states = self.fc(hidden_states)
            # 残差 ...
        # 注意 : review 指出 self.layers 未被分片，导致 PP 下每个 rank 都重复执行
        for layer in self.layers:
            hidden_states, residual = layer(
                positions=positions,
                hidden_states=hidden_states,
                residual=residual,
            )
        hidden_states = self.norm(hidden_states)
        return hidden_states

vllm/model_executor/models/exaone4_5.py

次要变更文件：移除废弃的 Exaone4_5_ImageProcessor 导入及相关方法，修复导入失败 bug。

# 文件 : vllm/model_executor/models/exaone4_5.py
# 关键变更：从 import 中删除 Exaone4_5_ImageProcessor，并移除 get_image_processor 方法
​
from transformers.models.exaone4_5 import (
    Exaone4_5_Config,
    # Exaone4_5_ImageProcessor, # 已移除：此符号在 Transformers 更新后不再存在
    Exaone4_5_Processor,
)
​
class Exaone4_5_ProcessingInfo(Qwen2VLProcessingInfo):
    def get_hf_processor(self, **kwargs: object) -> Exaone4_5_Processor:
        return self.ctx.get_hf_processor(
            Exaone4_5_Processor,
            use_fast=kwargs.pop("use_fast", True),
            **kwargs,
        )
    # 以下方法已被移除，因为 Transformers 不再提供 Exaone4_5_ImageProcessor
    # def get_image_processor(self, **kwargs: object) -> Exaone4_5_ImageProcessor:
    # return Exaone4_5_ImageProcessor(**kwargs)

评论区精华

Review 中 gemini-code-assist[bot] 提出了两个高优先级问题：

• MTP 层前缀缺少偏移量：Exaone4DecoderLayer 的 prefix 应包含 self.mtp_start_layer_idx 偏移（即 f"{prefix}.layers.{idx + self.mtp_start_layer_idx}"），否则 extract_layer_index 会错误地使用基础模型前几层的配置（如滑动窗口设置）。

• PP 模式下 MTP 层未分片：self.layers 在每级 rank 上都是完整 nn.ModuleList，导致每个 rank 都执行相同 MTP 层，产生冗余和错误计算结果。应使用 make_layers 分片或限制只在特定 rank 执行。
  这些问题在 PR merge 前尚未解决。

• MTP 层前缀缺少偏移量 (correctness): 未解决，PR 已被合并但该问题未修复。

• PP 模式下 MTP 层未分片 (design): 未解决，PR 已被合并但该问题未修复。

风险与影响

• 风险：
  1. 配置索引错误：Review 指出的 MTP 层前缀缺少偏移量，会导致在具有差异化 layer 配置（如滑动窗口）的模型中，MTP 层错误地应用第一层配置，可能产生计算错误或性能下降。严重性高，但影响仅限多层异构配置的模型。
  2. PP 逻辑缺陷：PP 模式下 MTP 层未分片，导致每级 rank 都执行相同 MTP 层，输出错误且浪费算力。现有代码仅在单卡或非 PP 场景下可用，PP 场景实测时会暴露问题。
  3. 对现有功能的回归风险：移除 get_image_processor 的修改较安全，因为该处理器在 Transformers 更新后已不存在，但需确认是否有下游代码（如测试或用户脚本）直接调用它。
     - 影响：影响范围：仅限 EXAONE 4.5 模型用户。对用户的影响：修复了导入失败的问题，使用户能正常加载 EXAONE 4.5 模型；但 MTP 多令牌预测功能在 PP 环境下可能不正常，用户需避免在此场景使用 MTP。对系统的影响：无，隔离在模型代码内。影响程度：中等，修复了关键 bug，但引入了新的潜在问题。
     - 风险标记：未解决 review 问题, 核心路径变更, 存在设计缺陷

关联脉络

• PR #42281 [Bug]: EXAONE 4.5 import fails: Exaone4_5_ImageProcessor missing in transformers: 本 PR 直接修复此 Issue 报告的导入失败问题。