vllm-project/vllm

修复进程内引擎关闭后模型与 KV 缓存不释放

值得精读：PR 展示了如何通过 GC 根分析定位模块级持有者，并结合 GPU 实测数据做出设计取舍（放弃 KV sever）。重点关注 `WeakKeyDictionary` 对 `get_language_model` 缓存语义的影响，以及 finalizer 弱引用化后对编译 wrapper 清理路径的影响。与 #54246 合并前需协调重叠改动。

修复多轮对话中重复图像被提前释放引发编码器重算

值得精读：此 PR 揭示了缓存管理中以请求为单位计数引用的设计缺陷，修复手法简洁有效。可借鉴在类似缓存计数场景中，按实际使用位置持有引用，避免过早释放。

DCP 下为 DSpark 草稿启用 FlashInfer MLA 支持

值得精读。重点关注三个设计决策：共享 draft metadata 构建器对 DCP 本地长度的统一处理、AttentionSpec.merge 从 any() 到组内一致的语义收紧、以及 FlashInfer 非因果多 token 展开时对全局因果边界的 repeat_interleave。建议在合并后尽快补跑 Kimi-K3 DSpark+DCP 端到端评估，并排查仓库内是否存在因果/非因果层共享 KV cache group 的存量配置。

新增腾讯 Hy4-preview 770B MoE 模型支持

值得精读。重点关注几个设计决策：1) flashmla_sparse.py 通过子类化补 sink 支持但保留 get_name() 不变，避免 KV cache dtype 行为漂移；2) compute_skip_topk_layers 对 full/shared 索引器层的权重跳过推导；3) _ihc_supported 把内核约束集中门控，避免静默回退；4) MTP 量化映射的容错设计。同时应把 is_deepseek_mla 白名单维护作为新 MLA 模型接入的标准检查项。

修复非 pinned CPU 张量 H2D 拷贝导致的同步 stall

值得精读。重点看两个设计模式：一是 FlashInfer 中“拷贝前 pin_memory() 快照”如何在 MRV2 无显式同步的约束下同时满足异步与防竞态，替代常驻 pinned 双缓冲；二是 `rot_pos_emb` / `rotary_pos_emb_thw` 通过调整 `get_cos_sin` 调用顺序、直接在 GPU 设备上构造索引张量来彻底消除 H2D。这两个模式可在后续新增推理路径时直接复用。

测试夹具改用文件 rendezvous，消除端口竞争

该 PR 是一个小而聚焦的改进，建议精读以了解测试基础设施中避免端口竞争的模式。值得关注的设计决策是使用文件存储替代 TCP rendezvous，这符合 issue 的原则。

修复 Qwen3-Omni 音频编码器在 TP 不可整除时无法初始化的问题

值得精读。该 PR 展示了在多模态模型中对 Tensor Parallelism 粒度进行条件控制的典型模式：通过判断头数是否可整除 TP 来动态决定是否分片。实现简洁，但有性能权衡，建议了解其背后的并行策略。

三处 MM 路径 H2D 改为 async_tensor_h2d 以固定 host 张量

值得精读，尤其是 `async_tensor_h2d` 的实现，它揭示了 vLLM 中 host 到设备传输的性能陷阱以及统一助手的必要性。可结合 #53491 和 #54266 了解整体迁移路径。