执行摘要

• 一句话：MultiConnector 合并 kv_transfer_params 字典
• 推荐动作：值得精读，改动简洁清晰，展示了接口兼容的设计权衡。

功能与动机

当多个子 connector 各自贡献无冲突的键时，例如缓存 connector 返回 cached_token_stats 而 P/D connector 返回传输元数据，原有逻辑会直接抛出 "Only one connector can produce KV transfer params" 的异常，阻止了这种合法组合。

实现拆解

1. 修改 _aggregate_request_finished 方法（vllm/distributed/kv_transfer/kv_connector/v1/multi_connector.py），将原来的“只允许一个 connector 产生参数”改为合并字典。
2. 合并前检查键是否冲突：若 kv_txfer_params 与 txfer_params 存在交集，则仍然抛出 RuntimeError 并指出冲突键；否则使用 dict.update() 合并。
3. 移除原来的 TODO 注释。
4. 无测试或配置变动。

关键文件：

• vllm/distributed/kv_transfer/kv_connector/v1/multi_connector.py（模块 KV连接器；类别 source；类型 core-logic；符号 _aggregate_request_finished）: 核心逻辑变更：修改 _aggregate_request_finished 方法，从禁止多 connector 返回参数改为合并字典。

关键符号：_aggregate_request_finished

关键源码片段

vllm/distributed/kv_transfer/kv_connector/v1/multi_connector.py

核心逻辑变更：修改 _aggregate_request_finished 方法，从禁止多 connector 返回参数改为合并字典。

# vllm/distributed/kv_transfer/kv_connector/v1/multi_connector.py
# 修改后：多个 connector 可以各自返回 kv_transfer_params，合并前检查键冲突
​
def _aggregate_request_finished(
    self,
    request: "Request",
    per_connector_fn: Callable[
        [KVConnectorBase_V1], tuple[bool, dict[str, Any] | None]
    ],
) -> tuple[bool, dict[str, Any] | None]:
    async_saves = 0
    kv_txfer_params = None
    for c in self._connectors:
        async_save, txfer_params = per_connector_fn(c)
        if async_save:
            async_saves += 1
        if txfer_params is not None:
            if kv_txfer_params is not None:
                # 检查键冲突，避免静默覆盖
                clashes = set(kv_txfer_params) & set(txfer_params)
                if clashes:
                    raise RuntimeError(
                        "Key clash in kv_transfer_params from multiple "
                        f"connectors: {clashes}"
                    )
                # 合并无冲突的字典
                kv_txfer_params.update(txfer_params)
            else:
                kv_txfer_params = txfer_params
    if async_saves > 1:
        self._extra_async_saves[request.request_id] = async_saves - 1
​
    self._requests_to_connector.pop(request.request_id, None)
​
    return async_saves > 0, kv_txfer_params

评论区精华

无显著讨论。ApostaC 批准了 PR。

• 暂无高价值评论线程

风险与影响

• 风险：风险较低。合并字典行为相当于放宽了约束，仅当键冲突时才会报错，符合预期。但若存在未预期的键冲突（如 connector 实现错误导致同键不同含义），可能导致数据被覆盖而不被察觉——不过当前实现会检查冲突并报错，安全。
• 影响：对用户/系统：允许 MultiConnector 组合更多子 connector 场景，如同时使用缓存与 P/D 传输。只影响 MultiConnector 内部逻辑，对外接口无变化。
• 风险标记：缺少测试覆盖

关联脉络

• 暂无明显关联 PR