vllm-project/vllm

新增 FlashInfer TensorRT-LLM 的 MXFP8 线性内核并接入后端选择器

值得精读。该 PR 展示了如何在一个既有线性后端选择器上安全地增加新 GPU 内核：通过 `_POSSIBLE_MXFP8_KERNELS` 优先级列表而非特殊分支控制默认选择、在权重加载后做一次性布局转换而非每次前向重复处理、用 custom op + fake 实现同时支持 eager 与 CUDA Graph/torch.compile 两条路径。对要扩展 FlashInfer 或 Quantization 内核的工程师，`process_weights_after_loading` 与 `apply_weights` 的职责切分以及 review 中关于“不要特殊 case”的取舍尤其值得参考。

跳过超限多模态缓存插入，修复引擎启动崩溃

建议精读。它不止是一个小 bugfix：review 中围绕"方法归属（基类选择）"与"API 边界（LRUCache 是否该提供 put_if_fits）"的两次迭代体现了 vLLM 对公共抽象位置和性能敏感路径（避免重复 `getsizeof`）的考量，值得在同类缓存/防崩溃修复中复用。合并前已由多模态领域维护者 DarkLight1337 批准，测试覆盖了三类 LRU 缓存与 `LRUCache` API 本身，可作为"缓存容量保护"修复的参考模板。

升级 NIXL 至 1.3.2 并修复版本漂移

该 PR 价值中等，值得精读以理解版本漂移问题的根因和修复思路。但建议后续将 `UCX_VERSION` 固定为具体 tag 或 commit，以消除可变分支带来的风险和不可复现性。

为 LFM2-VL 添加 tower 与 connector LoRA 支持

该 PR 值得精读，尤其是对多模态 LoRA 实现感兴趣的开发者。关键设计决策包括将投影层转换为 `ReplicatedLinear` 以支持 LoRA 包装，以及通过 token 预算辅助函数桥接视觉与语言 token 数量差异。但需注意测试覆盖的缺失，建议后续补充 LFM2 专属的单元测试。

文档更新：C++ 变更改用增量构建说明

该 PR 为纯文档改进，可快速浏览。对使用 AI 编码助手或频繁进行 C++ 开发的工程师有参考价值，可关注增量构建工作流文档。

修复 GDN 零草稿调度时 spec 解码计数未归零问题

值得快速阅读以理解 GDN 后端的元数据构建逻辑，尤其是投机解码回退路径。该修复展示了如何通过单行修复解决计数一致性问题，但建议后续补充单元测试以覆盖类似场景。关键在于认识到修改内部计数与 mask 状态保持一致的必要性。

修复 weight tying 忽略 checkpoint 导致 lm_head 被静默丢弃

值得精读。PR 将“config 声明”与“checkpoint 实际内容”的对账集中到新模块，用“先解绑加载、再按相等性重绑”的策略同时兼容冗余副本与真实独立 head，是 vLLM 权重加载架构上的一次重要收敛。建议重点阅读 `weight_tying.py` 的类型探测逻辑、`AutoWeightsLoader` 的别名跳过与缺 canonical 抛错设计，以及 RL 场景下重绑定必要性的讨论。

按 transformers 版本拆分多模态处理器并启用缓存

值得精读，特别是关注多模态处理器与上游 transformers 的契约设计：版本门控双处理器、把 HF 展开声明为 `PromptReplacement` 以复用统一缓存路径、通过 unpad 消除批量 padding 对缓存可复用性的破坏、错误信息直接指导用户上报上游或固定版本。这些设计对理解 vLLM 多模态输入流水线以及后续如何与 HuggingFace 生态协同演进很有价值。