#48258 [ROCm][CI] Transformers: pass only one of input_ids/inputs_embeds
原始 PR · 作者 stefankoncarevic · 合并时间 2026-07-14 01:28
缺陷修复
重要性 5.87
洞察度 5.00
修复 Transformers 后端 CUDA Graph 捕获时 input_ids 与 inputs_embeds 冲突
该 PR 值得阅读,尤其适合理解 vLLM 中 CUDA Graph 捕获路径与 Transformers 模型之间的交互。关键设计决策:选择在模型层(`Base.forward`)进行防御性检查,而非修改 CUDA Graph 捕获逻辑,从而避免引入更广泛的变动。这是 4 行代码修复经典契约违规的范例。