执行摘要

• 一句话：EC/KV 消费者自动启用 embedding 输入，无需显式标志
• 推荐动作：值得精读：PR 虽小但演示了一个清晰的配置推导模式——派生值无条件覆盖手工设置、以角色为判断基准收敛多个耦合开关。对于维护 EC/KV 分离部署或关注配置解析的工程师，可重点关注其“允许缺失张量”与“接受 embedding 输入”两开关的联动设计；同时建议后续补充针对消费者角色的配置单测。

功能与动机

PR body 明确说明动机：Automatically enable enable_mm_embeds for EC/KV consumers alongside allow_missing_mm_embeddings, so EPD rewrite requests are accepted without an explicit --enable-mm-embeds. 此前消费者端已经允许 *_embeds 张量缺失，但前端仍会因未开启 enable_mm_embeds 而拒绝 metadata-only 请求，导致 EPD rewrite 部署必须额外手工加标志。该改动从 #54176 提取，原 PR 中的配置变更已移除。

实现拆解

1. 变更入口：在 VllmConfig 配置校验流程（current_platform.check_and_update_config(self) 之后）将调用点 self._resolve_allow_missing_mm_embeddings() 替换为 self._resolve_mm_embedding_inputs()，确保该方法在平台配置更新完成后执行。

2. 符号重命名与语义扩展：_resolve_allow_missing_mm_embeddings 重命名为 _resolve_mm_embedding_inputs，docstring 从 Allow *_embeds tensors to be omitted 改为 Accept embedding inputs, tensor optional，职责从“允许缺失张量”扩展为“允许缺失张量并同时确保接受 embedding 输入”。

3. 核心逻辑改造：先按原有逻辑派生 mm_config.allow_missing_mm_embeddings（EC 或 KV consumer 时为 True），非 consumer 角色直接 return；在 consumer 角色下若 mm_config.enable_mm_embeds 未开启，则将其置为 True，并分别记录两条 info_once 日志。注释明确“Derived, so overwrite unconditionally”，即派生值无条件覆盖手工设置。

4. 测试与配套：未新增测试文件；作者本地运行了 tests/config/test_multimodal_config.py（46 项通过），提交前 pre-commit hooks 通过，并触发了 Buildkite CI #88239。模型评估/E2E 未在本 PR 重新运行。

关键文件：

• vllm/config/vllm.py（模块 配置层；类别 source；类型 core-logic；符号 _resolve_allow_missing_mm_embeddings, _resolve_mm_embedding_inputs）: 唯一变更文件，承载 EC/KV 消费者 embedding 输入解析与自动启用的全部逻辑

关键符号：_resolve_mm_embedding_inputs, _resolve_allow_missing_mm_embeddings

关键源码片段

vllm/config/vllm.py

唯一变更文件，承载 EC/KV 消费者 embedding 输入解析与自动启用的全部逻辑

def _resolve_mm_embedding_inputs(self) -> None:
    """Accept embedding inputs, tensor optional, on disaggregated consumers.
​
    An EC consumer loads embeddings from its connector. A KV consumer
    receives the prompt KV produced from those embeddings, so it does not
    need the tensors either. On every other deployment a missing tensor is
    a client error and must keep failing fast in the frontend.
    """
    model_config = self.model_config
    if model_config is None:
        return
    mm_config = model_config.multimodal_config
    if mm_config is None:
        return
​
    ec_config = self.ec_transfer_config
    kv_config = self.kv_transfer_config
    # 派生值：无条件覆盖手工设置，避免用户在消费者端误关该开关
    mm_config.allow_missing_mm_embeddings = (
        ec_config is not None and ec_config.is_ec_consumer
    ) or (kv_config is not None and kv_config.is_kv_consumer)
    if not mm_config.allow_missing_mm_embeddings:
        # 非消费者角色保持原行为：缺失张量属于客户端错误
        return
​
    if not mm_config.enable_mm_embeds:
        # 允许张量缺失仍需要开启 embedding 输入，
        # 前端才会接受 metadata-only 请求
        mm_config.enable_mm_embeds = True
        logger.info_once(
            "EC/KV consumer: accepting pre-computed-embedding inputs, "
            "which this role is sent by definition."
        )
    logger.info_once(
        "EC/KV consumer: pre-computed-embedding inputs may "
        "omit the embedding tensor."
    )

评论区精华

实质性 review 讨论为零：claude[bot] 仅提示该 PR 来自 fork、自动审核被禁用；维护者 Isotr0py 直接 APPROVED。作者在 PR body 中自述两个 commit 均由 OpenAI Codex 协助完成，并声明“Draft pending human review and validation”，说明该改动仍需人工复核后再转入 ready 状态。

• 暂无高价值评论线程

风险与影响

• 风险：
  1. 缺少测试覆盖：未新增任何测试文件，自动启用 enable_mm_embeds 的分支没有直接单测保护，后续 MultiModalConfig 字段语义变化时容易回归。

1. 消费者信任假设：PR 明示 consumer endpoints must remain trusted。自动开启后，任何能访问 consumer API 的调用方都能提交 metadata-only 请求；若 consumer 被暴露在不可信网络，等于放宽了前端输入校验面。

2. 派生值无条件覆盖：在 is_ec_consumer / is_kv_consumer 角色下，enable_mm_embeds 会被无条件强制打开，用户即使显式设置关闭也会被覆盖，这可能超出部分部署者的预期，需要文档同步说明。

3. 回归面：变更集中在配置校验路径（vllm/config/vllm.py），仅影响消费者角色，producer 与普通推理路径不变，整体回归面较小。
   - 影响：对 EC/KV 分离部署（EPD rewrite）用户是直接受益：消费者端不再需要显式 --enable-mm-embeds，减少部署配置摩擦与误配置导致的请求拒绝。对普通推理、EC producer、非多模态部署无影响。对团队而言，该改动把多模态输入开关的推导收敛到角色判断，与 KV connector 系列 PR 的“按角色自动推导配置”方向一致，为后续 #54176 的完整落地铺路。影响程度中等偏小，主要面向前沿的 EC/KV 分离部署场景。
   - 风险标记：缺少测试覆盖, consumer 信任假设, 配置自动覆盖, 核心路径变更

关联脉络

• PR #54176 （源 PR，标题未提供）: PR body 明确说明本配置变更是从 #54176 提取出来的，且原 PR 中的配置改动已被移除，本 PR 是其前置依赖。
• PR #55531 [KV Connector] Support symmetric DCP disagg for hybrid mamba models: 同为 EC/KV 分离部署配置线，修改了 vllm/config 下的消费者配置，与本 PR 的配置自动化方向一致。
• PR #53695 [ROCm][Feature] Support KV connectors with ROCM_AITER_UNIFIED_ATTN: KV connector 功能线的扩展支持，同属 EC/KV consumer 场景的配置与注意力后端联动。