Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

transformers 相关 PR

2026-07-14
缺陷修复 重要性 5.87 洞察度 5.00

修复 Transformers 后端 CUDA Graph 捕获时 input_ids 与 inputs_embeds 冲突

该 PR 值得阅读,尤其适合理解 vLLM 中 CUDA Graph 捕获路径与 Transformers 模型之间的交互。关键设计决策:选择在模型层(`Base.forward`)进行防御性检查,而非修改 CUDA Graph 捕获逻辑,从而避免引入更广泛的变动。这是 4 行代码修复经典契约违规的范例。