执行摘要

• 一句话：修复 Ernie-4.5-VL 编码器 CUDA graph 多路径输出兼容
• 推荐动作：建议阅读。变更很小但能体现 vLLM 在处理框架演进与模型适配之间契约漂移的 fix-forward 决策，值得关注的是：
  1) postprocess_encoder_output 的数据契约从 Tensor 演化为 dict 的设计动机；
  2) 同类覆写模型（如其他支持 encoder cudagraph 的模型）是否也存在同样的适配风险；
  3) 类似 revert 与 fix-forward 的决策模式。

功能与动机

多路径 CUDA graph 支持框架（#45254 同期合入）把 SupportsEncoderCudaGraph.postprocess_encoder_output 的第一个参数从单个 Tensor 改成了按编码器路径键控的 dict，而 Ernie4_5_VLMoeForConditionalGeneration 的覆写还按单 Tensor 处理，两者独立合入时各自绿，组合后崩溃：AttributeError: 'dict' object has no attribute 'device'（见 #51263 revert 报告的调用栈）。作者选择 fix-forward 而非 revert，避免丢掉 ViT full CUDA graph 的 3.79× 编码器加速。

实现拆解

变更只涉及 vllm/model_executor/models/ernie45_vl.py 的 postprocess_encoder_output 方法，共 2 处：

1. 参数签名从 output: torch.Tensor 改为 outputs: dict[str, torch.Tensor]，与新框架协议对齐。
2. 在方法体开头取 output = outputs["default"]。Ernie-4.5-VL 只用单一 default 编码器路径，所以这种取值是安全的。
3. 后续逻辑（resampler 贪心运行、scatter_output_slices）完全不变，保证非 graph 路径行为不受影响。
   没有配套改测试文件，但 PR body 给出了验证命令：pytest tests/models/multimodal/generation/test_vit_cudagraph.py::test_vit_cudagraph_image[ernie45_vl]，即 #51263 中失败的同一条用例。

关键文件：

• vllm/model_executor/models/ernie45_vl.py（模块 模型层；类别 source；类型 data-contract；符号 postprocess_encoder_output）: Ernie-4.5-VL 模型适配层覆写了 postprocess_encoder_output，本次修复其参数契约以兼容多路径 encoder CUDA graph 输出。

关键符号：postprocess_encoder_output

关键源码片段

vllm/model_executor/models/ernie45_vl.py

Ernie-4.5-VL 模型适配层覆写了 postprocess_encoder_output，本次修复其参数契约以兼容多路径 encoder CUDA graph 输出。

# vllm/model_executor/models/ernie45_vl.py
# 多路径 encoder CUDA graph 框架将 postprocess_encoder_output 的第一个参数
# 从单一 Tensor 升级为按编码器路径键控的 dict[str, torch.Tensor]。
# Ernie-4.5-VL 只注册了默认路径，因此取出 outputs["default"] 即可。
def postprocess_encoder_output(
    self,
    outputs: dict[str, torch.Tensor], # 按 encoder path 键控的 graph 输出
    indices: list[int],
    per_item_out_tokens: list[int],
    dest,
    clone: bool = False,
    batch_mm_kwargs: dict[str, Any] | None = None,
) -> None:
    # 当前模型仅使用单一 "default" 编码器路径，取回 ViT 原始输出。
    output = outputs["default"]
    # graph 输出是 pre-merge 的 ViT 特征，需要按真实 batch 的 grid_thw
    # 计算有效 token 数，再在图中以 eager 方式运行 resampler（它的主机侧
    # 操作无法被捕获进 CUDA graph），最后 scatter 回目标缓冲区。
    grid_thw = batch_mm_kwargs["image_grid_thw"].to(output.device)
    num_valid = int((grid_thw[:, 0] * grid_thw[:, 1] * grid_thw[:, 2]).sum())
    image_embeds = self.resampler_model(output[:num_valid], grid_thw)
    scatter_output_slices(image_embeds, indices, per_item_out_tokens, dest, clone)

评论区精华

首次 review 由 claude[bot] 触发，但因为 PR 从 fork 发出，自动 review 被禁用，没有实际代码评论。khluu 在第二次 review 中批准了 PR，并附言 Thanks for the fix!。没有其他讨论线程。

• 暂无高价值评论线程

风险与影响

• 风险：风险较低。唯一的行为假设是 outputs 字典中一定存在 default 键。对 Ernie-4.5-VL 来说，多路径 CUDA graph 框架的默认路径就是 default，这一假设在框架协议上成立，但如果未来有其他路径进入，或框架重命名键，会立即 KeyError。另外，本次没有在 PR 中新增/修改测试文件，回归保护依赖已有的 test_vit_cudagraph_image[ernie45_vl] 和 CI 覆盖，若该用例未在 CI 中跑通则回归风险会暴露。
• 影响：影响面小（1 个文件、3 行新增 1 行删除），但对 Ernie-4.5-VL 图像推理的编码器 CUDA graph 来说是关键修复：恢复了 ViT full CUDA graph 的 3.79× encoder speedup（P99 5.35×），避免了回退到 eager 或带着崩溃路径运行。对新引入的多路径 encoder CUDA graph 框架而言，这是一次针对模型适配层的数据契约修复。
• 风险标记：模型适配层契约变更, 依赖隐式 default 键, 无新增测试覆盖

关联脉络

• PR #45254 [MM][CG] Support ViT full CUDA graph for Ernie-4.5-VL image inference: 引入了 Ernie-4.5-VL 的 postprocess_encoder_output 覆写与 ViT CUDA graph 路径，是本次契约变更的源头。
• PR #51263 Revert "[MM][CG] Support ViT full CUDA graph for Ernie-4.5-VL image inference" (#45254): 本 PR 正是为关闭该 revert 而做的 fix-forward，PR body 明确引用其失败的测试用例 build 82629。