vllm-project/vllm

禁止 language_model_only 与 encoder CG 同时启用

值得快速浏览，作为配置校验最佳实践的小案例。其设计决策——将不兼容配置在启动阶段显式拒绝，而非允许其产生难以理解的运行期错误——具有参考价值。

升级 tpu-inference 依赖至 v0.27.0

本 PR 为常规依赖升级，值得关注 TPU 推理库 v0.27.0 的 release notes，确认是否有必要跟进。对大多数开发者无强制精读必要。

统一权重跳过逻辑至 WeightsMapper，精简 AutoWeightsLoader 参数

值得精读。核心是 `vllm/model_executor/models/utils.py` 的 mapper 设计：`None` 映射的统一语义、`get_rename_mapper` 对“命名消费者”的过滤，以及 `hf_to_vllm_mapper` 类属性 + `load_weights` 只传 mapper 的迁移模板。维护特定模型的团队应检查自身模型文件是否已跟随迁移，避免残留 `skip_prefixes` 调用导致 API 破坏。

RMSNormFuser 停止逐实例 trace，启动提速最高 57.8 倍

值得精读。该 PR 展示了 FX tracing fuser 的一个典型性能陷阱（在 fuse 阶段重复 trace 绕过缓存）及系统性解法：将参数来源解析从 per-instance 提升到 per-class，并用 marker 重 trace 做精确验证。实现中的 `_eps_source` 方法、eps 字段设计、以及测试对边界场景的覆盖（literal 误绑、多属性消歧）都是值得学习的细节。

MRv2 新增 extract_hidden_states 投机解码支持

值得精读，尤其是新投机器的 `propose` 签名与 `set_forward_context` 用法，以及"draft token 恒等于目标采样 token、验证必接受"的设计思路。对后续向 MRv2 增加新的 speculative method 有直接参考价值；CUDA Graph 缺口可作为后续优化专题跟进。

token 匹配成功时跳过重复 placeholder 扫描

值得精读。重点关注 `_apply_token_matches_with_placeholders`“边匹配边收集”的设计，以及从运行时检查演进到可覆写实例方法的过程——这是处理基类扩展点时的典型模式。维护多模态模型适配的同学应留意新覆写契约；性能结论基于 PR 自带 benchmark，建议在真实负载和 Gemma3 等模型上复测。

新增 FlashInfer TensorRT-LLM 的 MXFP8 线性内核并接入后端选择器

值得精读。该 PR 展示了如何在一个既有线性后端选择器上安全地增加新 GPU 内核：通过 `_POSSIBLE_MXFP8_KERNELS` 优先级列表而非特殊分支控制默认选择、在权重加载后做一次性布局转换而非每次前向重复处理、用 custom op + fake 实现同时支持 eager 与 CUDA Graph/torch.compile 两条路径。对要扩展 FlashInfer 或 Quantization 内核的工程师，`process_weights_after_loading` 与 `apply_weights` 的职责切分以及 review 中关于“不要特殊 case”的取舍尤其值得参考。

跳过超限多模态缓存插入，修复引擎启动崩溃

建议精读。它不止是一个小 bugfix：review 中围绕"方法归属（基类选择）"与"API 边界（LRUCache 是否该提供 put_if_fits）"的两次迭代体现了 vLLM 对公共抽象位置和性能敏感路径（避免重复 `getsizeof`）的考量，值得在同类缓存/防崩溃修复中复用。合并前已由多模态领域维护者 DarkLight1337 批准，测试覆盖了三类 LRU 缓存与 `LRUCache` API 本身，可作为"缓存容量保护"修复的参考模板。