执行摘要

• 一句话：修复跨编码器打分时 extra_kwargs 丢失问题
• 推荐动作：值得合入，问题明确、修复干净。可作为小型 bugfix 的参考范例：优先保持与现有配置的兼容性，避免意外覆盖用户侧参数。

功能与动机

Cross-Encoder 打分预处理过程中，token_type_ids 的压缩结果以 compressed_token_type_ids 键写入 PoolingParams.extra_kwargs，但原有赋值语句 params.extra_kwargs = {"compressed_token_type_ids": compressed} 完全覆盖了之前用户通过 PoolingParams 传入的 cache_salt、mm_processor_kwargs 等关键配置，导致功能异常。

实现拆解

1. 定位问题文件：vllm/entrypoints/pooling/scoring/io_processor.py 中的 _pre_process 方法。
2. 修改字典赋值逻辑：将原来的直接替换改为先解包已有 extra_kwargs（确保为 dict），再合并新的 compressed_token_type_ids 键。变更仅涉及第 466 行，从 params.extra_kwargs = {"compressed_token_type_ids": compressed} 改为 params.extra_kwargs = {**(params.extra_kwargs or {}), "compressed_token_type_ids": compressed}。
3. 该改动极小但精确修复了因覆盖导致的功能丢失问题。

关键文件：

• vllm/entrypoints/pooling/scoring/io_processor.py（模块 入口层；类别 source；类型 core-logic；符号 _pre_process）: 核心修改文件，修复了 _pre_process 方法中 extra_kwargs 被覆盖的问题。

关键符号：CrossEncoderIOProcessor._pre_process

关键源码片段

vllm/entrypoints/pooling/scoring/io_processor.py

核心修改文件，修复了 _pre_process 方法中 extra_kwargs 被覆盖的问题。

# vllm/entrypoints/pooling/scoring/io_processor.py 第 463-469 行
if token_type_ids := engine_prompt.pop("token_type_ids", None):
    params = pooling_params.clone()
    compressed = compress_token_type_ids(token_type_ids)
    # 修正前：直接赋值覆盖了用户原有的 extra_kwargs
    # params.extra_kwargs = {"compressed_token_type_ids": compressed}
    # 修正后：解包已有字典，保留用户设置的 cache_salt、mm_processor_kwargs 等
    params.extra_kwargs = {
        **(params.extra_kwargs or {}),
        "compressed_token_type_ids": compressed,
    }
    pooling_params_list.append(params)
else:
    pooling_params_list.append(pooling_params)

评论区精华

该 PR 没有触发 review 讨论，唯一的人类审核者 yewentao256 直接批准。

• 暂无高价值评论线程

风险与影响

• 风险：回归风险低：仅修改一行赋值语句，确保字典合并而非覆盖；不存在性能或安全影响。但需确认 params.extra_kwargs 被 clone 后是否为 None（代码中已有 or {} 防护）。
• 影响：直接影响跨编码器（Cross-Encoder）打分功能：用户传入的 PoolingParams.extra_kwargs 参数（如 cache_salt、mm_processor_kwargs）现在能被正确保留，修复了此前缓存盐值丢失、多模态处理器参数丢失等问题。影响范围限于 vllm.entrypoints.pooling.scoring 模块。
• 风险标记：变更范围小，风险低

关联脉络

• PR #46966 [Misc] Validate Pooling cache_salt Values: 同一功能线，涉及 cache_salt 参数在打分场景中的验证，与本 PR 的 extra_kwargs 保留互为补充。
• PR #46939 [Misc] Forward request-level prompt extras for cross-encoder scoring: 同为跨编码器打分模块的改动，关注 prompt extras 转发，与本 PR 共同完善 CrossEncoder 的参数传递。