vllm-project/vllm

TP 下 hidden state 提取按需放大 KV page，修复启动断言崩溃

值得精读，尤其是维护 `vllm/v1/core/kv_cache_utils.py` 或调试 `extract_hidden_states` + TP 组合的人。关注三个设计决策：一是用 `cdiv(max_per_token, common_page)` 求最小整数倍数，而不是无条件翻倍，控制显存浪费；二是同一 scale 同时作用于 `block_size` 与已显式设置的 `page_size_padded`，维持 spec 内部比例；三是把缩放放在 `math.gcd` 之前，使 hidden-state 层仍能取到合法公约数。同时建议阅读者顺手确认两件事：复合 `UniformTypeKVCacheSpecs` 场景下子 spec 是否被漏缩，以及后续是否需要为 scale ≥ 3、MambaSpec 与已 padded 的 spec 补测试用例。

DSpark 补齐词表草稿不再误报缺 d2t

值得精读，但只需读源码两处条件与新增测试：这是一个「一行判据改对语义」的典型案例，展示了对 `!=` 与 `<` 在模型加载契约中差异的精确把握，也示范了把「加载期校验」与「构造期参数创建」绑定为同一不变式的做法。阅读时重点看三件事：(1) `__init__` 与 `load_weights` 的判据为何必须同步、不同步会怎样；(2) 恒等映射路径 `map_draft_to_target` 是否真的等价于过去的全零 d2t；(3) 务必跟进 CodeRabbit 提出的 padded 行 mask 建议——建议维护者为 `compute_draft_logits` / `DSparkSpeculator._sample_logits` 另开 issue 或小 PR，补上 `[target_vocab_size, draft_vocab_size)` 的 mask 与「高 padded logit」回归测试，否则本 PR 只是把失败从加载期推迟到采样期。

治理文档更新：russellb 转 emeritus

值得快速浏览（约 3 分钟），无需精读代码；重点看两类决策：(1) 安全区域从双人 owner 收敛为 @jperezdealgaba 单点是否可接受、是否要补 backup；(2) 把 VMT 名单裁剪与 committer 迁移打包进同一个 docs PR 是否合适，因为它让一个纯文档变更带上了对外安全联系方式的语义变化。治理流程上值得借鉴的写法是：源码路径、测试路径、安全路径与 area owner 表一次性对齐，避免只改一半造成旧账号路由残留。

统一多模态 LoRA token 计数钩子，20+ 模型迁移到新接口

值得精读，尤其是维护多模态模型接入和 LoRA 子系统的工程师。建议重点关注三处：`vllm/model_executor/models/interfaces.py` 的契约定义与弃用策略、`ultravox.py` 中“不再反解 chunk 数”的语义澄清（最容易被忽略的行为差异）、以及 `blip2.py` / `llava_next_video.py` 的整除与守卫改动。阅读时建议对照每个模型旧钩子的链式调用结果做一次等价性核对；同时把 Codex 的 P2 作为待办跟进——要么在已迁移模型上补 legacy 包装，要么明确公告旧 API 在本次发布中失效；并推动一个后续 PR 完成 legacy 钩子的最终移除与 `modality` / `mm_kwargs` 入参的实际落地验证。

MiniCPM-V 4.6 qkv 融合映射上移，修复权重加载失败

值得精读，尤其是想搞清楚 vLLM 权重加载分层的工程师：本 PR 用 6 行新增讲清了"映射该放在哪一层"这个反复踩坑的问题。重点看三处：一是 `MiniCPMV4_6ViTWindowAttentionSelfAttn` 为什么不能持有自己的 `hf_to_vllm_mapper`（前缀剥离子模块与映射键层级的错配）；二是去掉前导点会级联成 `qkqkv_proj` 的匹配语义陷阱；三是 hmellor 否决"恢复显式 `stacked_params_mapping` 循环"的思路、改为上移 mapper 的设计取舍。建议后续补一个纯权重名层面的 CPU 单测（断言 `...self_attn.q_proj.weight` → `...self_attn.qkv_proj.weight` 且 shard id 为 q/k/v），否则该模块仍会在下一次加载框架重构中静默回归。

精简 unannotated-eagle 告警文案，仅保留事实陈述并补测试

- **是否精读**：这是一次低风险的文案与测试校准，不需要逐行精读 diff；建议只看 `_warn_if_unannotated_eagle_mamba` 这一个函数与新增用例，理解其决策即可。 - **值得关注的设计决策**：其一，把“源码层面的事实”（未识别出 draft group）与“消费者层面的后果”（下游会怎么处理）解耦，日志只保留前者，避免再次过时；其二，Mamba gate 被完整保留，说明作者区分了“触发条件”与“解释性文案”，只动后者。这两点对任何写用户可见告警的模块都适用。 - **可跟进的小改进**：`mamba_groups` 现在只参与 `if not mamba_groups` 的真值判断，可以改用 `any(...)` 直接表达意图、避免构造无用列表；如果确实需要保留可观测性，可考虑把这批索引放进低噪的 `logger.info_once`，把 warning 留给真正需要人工介入的场景。 - **维护提醒**：该函数所在测试文件对告警字符串有直接断言，后续任何文案调整都必须同步检查 `tests/v1/core/test_kv_cache_utils.py` 中的相关断言。

OpenPangu 静态 sink 睡眠模式崩溃修复

建议精读，尤其是关注两类可复用的 bug 模式：一是 level-2 sleep 下"普通张量属性不会恢复、注册 buffer 才会"的 ownership 边界，在排查其他模型的 sleep 回归时可直接复用；二是 `Attention.__init__` 与 `CustomOp.__init__` 的协作式 MRO —— 显式重复初始化父类会重跑 `nn.Module.__init__` 并静默清空已注册 buffer，这类问题在编译/CUDA graph 路径上极难定位。阅读时请以最终 diff 为准：PR 描述中关于 KV cache 管理器、`num_reserved_blocks`、`reset_prefix_cache` 和单测的部分已不再适用；若关心 OpenPangu 在抢占 + prefix-cache reset 组合下的正确性，需要跟踪被推迟的后续 PR。

MoRI-IO 连接器支持 SWA+HMA，PD 吞吐数倍提升

值得精读，尤其适合关注 KV 连接器、PD 分离与 HMA 的工程师。重点看三处设计决策：一是通过 `SupportsHMA` + `request_finished_all_groups` 把『每组一个块列表』的契约从类型层（`BlockIds`）到协议层打通，并与 NIXL 保持一致的命名；二是『能裁剪就裁剪、不能裁剪就 fail closed』的策略——SW 组只传窗口尾部、其他 hybrid 直接抛异常，避免静默精度损失；三是顺手修掉的 local/remote block id 混用 bug，这个话题值得作为案例研究：一个看似只关乎容量的特性改造，如何暴露并修复既有的数据正确性问题。阅读时建议对照 `test_moriio_connector.py` 中 `test_get_exchange_clipped_blocks_clips_only_sw_group` 与 `test_metadata_hma_block_ids_preserved_per_group`，并留意 PR 未覆盖的滚动升级兼容性与多 full-attention 组场景。