执行摘要

• 一句话：新增对EXAONE-4.5-33B视觉语言模型的支持，包括基础模型和推测解码集成。
• 推荐动作：建议技术管理者和工程师精读此PR，重点关注模型集成设计（如基于Qwen2_5_VL的复用模式）、推测解码适配方式，以及review中讨论的初始化正确性和性能优化决策。对于维护多模态模型的开发者，了解_mark_tower_model的使用场景尤为关键。

功能与动机

PR body明确说明：'This PR adds support for the [EXAONE-4.5-33B], vision-language model developed by LG AI Research.' 目的是扩展vLLM的模型支持范围，满足用户对新视觉语言模型的需求，增强框架的多模态能力。

实现拆解

实现方案包括以下关键改动：

1. 核心模型实现：新增vllm/model_executor/models/exaone4_5.py文件，定义EXAONE-4.5模型类，继承自Qwen2_5_VL架构，支持视觉编码器和语言模型。
2. 推测解码集成：新增exaone4_5_mtp.py文件实现多令牌预测模型，并修改vllm/config/speculative.py和vllm/v1/spec_decode/eagle.py以注册和适配新模型。
3. 注册与文档：更新vllm/model_executor/models/registry.py添加模型映射，修改docs/models/supported_models.md更新支持模型列表。
4. 示例代码：在examples/offline_inference/vision_language.py和vision_language_multi_image.py中添加EXAONE-4.5的离线推理示例。
5. 小范围修复：调整exaone4.py中的MLP层以支持数据并行，并移除exaone_moe_mtp.py中的前缀缓存限制。

关键文件：

• vllm/model_executor/models/exaone4_5.py（模块 model_executor）: 新增EXAONE-4.5模型核心实现，基于Qwen2_5_VL架构，包含视觉编码器和语言模型，是多模态支持的关键文件。
• vllm/model_executor/models/exaone4_5_mtp.py（模块 model_executor）: 新增EXAONE-4.5的多令牌预测模型实现，用于推测解码场景，扩展了模型的推理能力。
• vllm/model_executor/models/registry.py（模块 model_executor）: 更新模型注册表，将EXAONE-4.5模型映射到对应类，是框架识别和加载新模型的必需变更。
• vllm/v1/spec_decode/eagle.py（模块 spec_decode）: 修改推测解码逻辑，添加EXAONE-4.5模型到支持列表，确保其在推测解码路径中正确处理图像令牌。
• examples/offline_inference/vision_language.py（模块 examples）: 添加EXAONE-4.5的离线推理示例，为用户提供使用参考，提升易用性。

关键符号：Exaone4_5_ForConditionalGeneration.init, EXAONE4_5_VisionBlock.forward, Exaone4_5MultiTokenPredictor.init, Exaone4_5_MTP.init

评论区精华

Review讨论核心点包括：

1. DarkLight1337要求将模型添加到离线示例脚本（'Can you add this model to the offline example scripts?'），并指出文档需按字母顺序排列（'Alphabetical order'）；作者回应已应用更改。
2. elwhyjay强调模型初始化应使用_mark_tower_model和_mark_language_model包装以确保多模态运行时路径正确性，并建议为VisionBlock添加@support_torch_compile注解以提升编译路径性能；从commit历史看，作者已应用torch.compile变更，但初始化包装是否应用未明确（上下文不足）。决策结论：根据反馈，示例和顺序问题已解决，性能优化建议被采纳。

• 文档和示例添加 (documentation): 作者添加了离线示例并修复了文档顺序，问题已解决。
• 模型初始化正确性 (design): 作者回复已应用更改，但commit历史未明确显示此变更，上下文不足确认是否完全解决。
• 性能优化建议 (performance): 从commit 'Add torch.compile to Exaone4_5_VisionBlock'看，建议被采纳并已实施。

风险与影响

• 风险：技术风险包括：
  1. 兼容性风险：新模型基于Qwen2_5_VL实现，但若架构差异未完全适配，可能导致加载或推理错误。
  2. 推测解码集成风险：修改eagle.py可能引入回归，影响其他模型的推测解码功能。
  3. 测试覆盖不足：PR未添加专门的端到端测试，仅更新注册表，可能隐藏边界情况bug。
  4. 多模态处理风险：初始化未明确使用_mark_tower_model包装，可能影响--mm-encoder-only等运行时行为。
• 影响：影响范围：
  1. 对用户：可直接使用EXAONE-4.5模型进行视觉语言推理，并通过离线示例快速上手。
  2. 对系统：扩展了多模态和推测解码支持，提升框架的模型多样性。
  3. 对团队：新增代码需维护，但基于现有架构降低了长期负担。影响程度中等，主要限于新功能添加，未涉及核心路径大规模变更。
     - 风险标记：新模型兼容性风险, 推测解码集成风险, 缺少端到端测试

关联脉络

• PR #36320 [Quantization] Support Quark W8A8 INT8 MoE inference: 类似新模型支持PR，添加了量化模型集成，可参考其模型注册和测试模式。
• PR #38610 [Spec Decode] fix returning size mismatch on extract hidden states proposer: 涉及推测解码修复，与本PR修改eagle.py相关，展示推测解码模块的维护脉络。
• PR #38214 [Feature] Add auto-detection for reasoning_config when only reasoning_parser is set: 同为新功能添加PR，体现了vLLM对模型配置和推理能力的持续扩展。