执行摘要

本 PR 在 PoolerConfig 中新增 logit_scale 字段，配合现有 logit_bias 实现仿射分数校准（Platt 缩放），允许重排序器和分类模型通过配置直接输出校准概率分数。变更向后兼容，对使用池化器的模型有积极影响，但需注意命名混淆风险。

功能与动机

此变更旨在解决模型输出分数校准问题，使用户无需自定义代码或后处理即可通过 --pooler-config 实现仿射校准。动机引用自 PR body：'enabling affine score calibration... without custom model code or client-side postprocessing.' 用例包括 Platt 缩放、温度缩放、分数归一化和领域适应。

实现拆解

实现分三层进行：

• 配置层：在 vllm/config/pooler.py 添加 logit_scale: float | None = None 字段。
• 池化器头层：在 vllm/model_executor/layers/pooler/seqwise/heads.py 的 ClassifierPoolerHead.forward 和 vllm/model_executor/layers/pooler/tokwise/heads.py 的 TokenClassifierPoolerHead.forward_chunk 中，插入逻辑：
  

  if self.logit_bias is not None:
      logits -= self.logit_bias
  if self.logit_scale is not None:
      logits *= self.logit_scale
  

• 池化器传递层：在 seqwise/poolers.py 和 tokwise/poolers.py 中传递 logit_scale 参数。
  共修改 5 个文件，添加 17 行代码，确保默认行为不变。

评论区精华

review 中主要讨论点：

1. logit_bias 减法争议：DarkLight1337 质疑减法正确性，noooop 引用 mxbai-rerank 实现确认减法，结论为保持兼容性，但需注意与采样 logit_bias（加法）的混淆。
2. compute_hash 处理：gemini-code-assist[bot] 建议将 logit_scale 加入哈希计算，jefp 回复现有 logit_bias 也未包含，遵循惯例不包含，因为不影响编译图。
3. 文档和命名改进：noooop 建议重命名文档章节为 'Affine Score Calibration' 并未来弃用 logit_bias 为 logit_mean/logit_sigma，决定更新文档但推迟重命名到后续 PR。

风险与影响

风险：

• 命名混淆：池化器 logit_bias 为减法，采样中为加法，可能误导用户；文档已澄清。

• 缓存一致性：未将 logit_scale 加入 compute_hash，但遵循现有模式，风险较低。
  影响：

• 用户：可直接通过配置校准分数，提升模型输出质量。

• 系统：无性能影响，添加简单标量运算。
• 团队：需关注文档更新和未来命名变更。

关联脉络

与本 PR 相关的历史 PR 包括 #38800（添加 jinaai/jina-reranker-v3 模型支持），均涉及池化器功能扩展。此 PR 作为通用校准功能，与模型特定支持 PR 共同推进 pooling 模块演进，未来可能通过后续 PR 进行参数重命名以改善一致性。