#53016 [Bugfix] Skip MM processor cache inserts larger than capacity
原始 PR · 作者 Prudhvivuda · 合并时间 2026-08-20 21:42
缺陷修复
重要性 7.26
洞察度 6.00
跳过超限多模态缓存插入,修复引擎启动崩溃
建议精读。它不止是一个小 bugfix:review 中围绕"方法归属(基类选择)"与"API 边界(LRUCache 是否该提供 put_if_fits)"的两次迭代体现了 vLLM 对公共抽象位置和性能敏感路径(避免重复 `getsizeof`)的考量,值得在同类缓存/防崩溃修复中复用。合并前已由多模态领域维护者 DarkLight1337 批准,测试覆盖了三类 LRU 缓存与 `LRUCache` API 本身,可作为"缓存容量保护"修复的参考模板。