#56639 [Pooling] Support prompt embeddings in MRV2 decoder pooling
原始 PR · 作者 taneem-ibrahim · 合并时间 2026-09-13 13:49
缺陷修复
重要性 5.21
洞察度 4.00
MRV2 池化支持 prompt_embeds，token id 断言下沉到任务级
值得精读，但不必花大量时间：diff 极小，重点看两处设计决策——(1) 为什么把 `prompt_token_ids` 放宽为 `list[int] | None` 而不是在 `model_runner` 里为 embeds 请求加特例；(2) 为什么断言放在 `if pooling_params.requires_token_ids:` 分支内而不是 `_get_pooling_metadata` 里。这两点体现了“输入校验跟随能力声明、在真正使用点失败”的模式，可直接迁移到其他 MRV2 迁移修复中。若你在维护池化任务或新增 pooler，请额外关注 `requires_token_ids` 的声明是否与实际实现一致，并建议补一条 MRV2 下 embeds 与 token 输入混合 batch 的回归用例，把本次手工验证固化进 CI。