vllm-project/vllm

跳过 prefix-cache 覆盖项的 mm 张量广播，多模态 TTFT 显著下降

值得精读。该 PR 展示了一个典型的「基于前缀缓存状态做数据传输裁剪」的设计模式：通过 `num_computed_tokens` 判断数据是否必然不会被消费，从而在广播前剥离。重点关注 `strip_covered_mm_data` 的 M-RoPE 特判（`keep_on_cpu`）以及调度器如何传递 `uses_mrope`。同时建议结合 PR#52827 阅读，理解 `keep_on_cpu` 字段语义。对于 v1 runner 的 preemption 场景，若有后续演进可关注是否需要恢复该路径。

SM120 FP8 GEMM 路由修复，prefill 提速约18%

值得精读，特别是对 kernel 分发逻辑和性能优化感兴趣的工程师。该 PR 通过数据驱动的方式定位并修复了性能回归，展示了如何通过微基准和端到端验证替代盲目调整配置。关注点是：swapAB 的适用范围判断只基于 M，是否应结合 N、K 维度进一步调优。

修复 expand_packed_lora 对 None 组员的崩溃

值得精读，因为它是理解 vLLM LoRA 打包层 `None` 容错模式的精简案例，展示了如何在融合层中通过占位符保持切片对齐。关注点：`expand_packed_lora` 与 `slice_lora_b`、`set_lora` 的容错一致性；以及缺少自动化测试的隐患。对于 LoRA 开发者，这个模式可以复用到其他打包投影组。

修复 /inference/v1/generate 在 n>1 时静默丢弃 choices

值得精读。修复本身简洁，但根因链条清晰（`output_kind` 默认值与 `serve_tokens_full_generator` 聚合逻辑的交互），测试设计覆盖真实回归场景。CI 调试过程还展现了 `VLLM_USE_RUST_FRONTEND` 下前端实现分叉，可作为理解 vLLM scale-out 前端架构与测试跳过策略的窗口。

新增 NemotronH_Omni_Reasoning_V3 架构支持并启用 MTP 推测解码

值得快速阅读，改动虽小但涉及模型注册和推测解码的关键路径。关注设计：通过简单映射和条件扩展实现新模型支持，体现了 vLLM 对向后兼容的重视。

修复无 torch 环境下 docs 构建的 metaclass 冲突

值得精读，尤其是 `MockModule` 的引入和同时 mock `torch` 与 `torch.nn` 的处理方式。这是处理无 torch 环境下模拟 torch 依赖的典型模式，对维护文档生成框架有参考价值。

修正混合KV缓存文档Case 3的分组编号

该PR值得精读，尤其是对理解vLLM混合KV缓存管理分组的工程师。它展示了如何通过显式列举来提升文档清晰度，且保持了与算法的一致性。

为包式后端恢复 ModelInfo 缓存，修复启动性能回归

值得精读，尤其关注 inspect_model_cls 的路径解析逻辑变更，以及缓存命中对启动性能的影响。设计上回退到 find_spec 是合理的，但需注意对不同模块布局的兼容性。