vllm-project/vllm

PCP 下解锁单模块 MTP 与 DSpark 投机解码

值得精读，尤其是负责 MRv2、PCP/DCP 与投机解码的工程师。重点看三处：(1) `PCPManager.prepare_draft_prefill` / `restore_draft_prefill` 定义的“首个 draft forward 复用 rank-local batch、后续 replicated draft 刷新全局 block table”契约，这是本 PR 的核心设计决策；(2) `partition_batch` 中 positions / seq_lens / logits_indices 的重写（positions 必须来自 GPU 全局 batch、本地 logits 不再采样），它解释了为什么必须移除 `req_states` 依赖；(3) `sparse_attn_indexer.py` 与 `check_attention_cp_compatibility` 的口径放宽，判断是否接受这种“隐式形状判定 + 校验只覆盖 target 层”的取舍。若要在生产启用，建议先补一条 PCP + MTP/DSpark 的 e2e 用例，并重跑作者未完成的整模型 acceptance 验证（含 dummy/profile 路径）。

EC/KV 消费者自动启用 embedding 输入，无需显式标志

值得精读：PR 虽小但演示了一个清晰的配置推导模式——派生值无条件覆盖手工设置、以角色为判断基准收敛多个耦合开关。对于维护 EC/KV 分离部署或关注配置解析的工程师，可重点关注其“允许缺失张量”与“接受 embedding 输入”两开关的联动设计；同时建议后续补充针对消费者角色的配置单测。

修复 MoE LoRA 打包忽略 rsLoRA 缩放因子

值得精读。这是一个典型的“单一事实来源”修复：优先使用 PEFTHelper 已存储的 per-adapter 缩放因子，而非在打包路径中重新推导，避免语义漂移。测试设计（参数化两条路径 + 保留非 gated 特例）也值得借鉴，且删除了无回归信号的低价值参数化。

修复 Mooncake 异构 PP 传输：放宽层匹配并修正完成计数

值得精读，属于「改动很小但语义很关键」的分布式正确性修复。建议重点关注三处：`_align_transfer_regions` 中 `allow_partial_layers` 与 `(layer_name, 0) not in remote_by_key` 的组合如何把「整层缺席」和「occurrence 缺失」区分开；`resolve_need_send` 把 `need_send` 乘以 consumer PP 规模这一完成计数语义，以及它在对端漏发 pull 时的退化行为；新增测试 `test_heterogeneous_pp_waits_for_consumer_without_shared_layers` 如何用单测复刻 P4/D2 的两个 stage 顺序。若要在生产启用异构 PP，建议额外验证「某个 consumer PP stage 失败/过期」的路径，并确认 P/D 版本同步策略。

SimpleCPU 支持 hybrid 细粒度外部前缀命中加载

建议精读，尤其是 `SimpleCPUOffloadScheduler.update_state_after_alloc` 的按组取整映射与 boundary handoff 消费逻辑，它们体现了「同一批 token 在不同 block size 的 group 间如何对齐」这类典型 hybrid 难题。重点关注的三个设计决策：一是用 `has_positionally_stable_blocks` 把「位置游标是否可用」抽象成 manager 级别的可覆写属性，而非散落的 `if mamba_mode == 'align'` 判断；二是几何尺寸统一到 coordinator 的 `group_block_sizes`，删掉了重复的 `spec.block_size * cp_world_size` 手算式；三是把「静默丢失的 handoff」用 `BoundaryStoreStats` 计数器显式化。若团队维护 hybrid 模型或自研 external prefix offload，应把该 PR 作为块对齐规则的参考实现。

ROCm 上放宽 sparse-MLA 分派谓词，修复 GLM-5.3 MTP 静默错算

值得精读，但只需要读一个函数。建议重点关注三点：(1) `_use_rocm_sparse_triton()` 从“形状判定”转为“几何能力判定”的依据是否成立——即 ragged Triton 内核是否真的对多 token 验证行与普通 decode 行有相同前提，这是整个修复的立论基础；(2) 把“静默回退到不兼容内核”视为可复现的失败模式，评估是否需要在谓词为 False 且形状不被支持时加 assert/告警，而不是继续依赖人工 GSM8K 验证；(3) 若你是 ROCm 后端或投机解码的维护者，建议补一条能进 CI 的端到端精度用例（或至少在 AMD CI 中挂上该测试文件），否则这次修复在回归保护上是空白的。对于只想了解结论的读者，记住一句话即可：这是一次“放宽分派谓词 + 补形状用例”的小改动，修的是静默错算，不是新功能。

延迟释放栅栏未推进时停止抢占重试，消除零进展级联

值得精读，尤其适合负责 v1 调度器、KV connector 与异步调度的工程师。建议重点看三处：(1) 谓词抽取的位置与复用方式——把“释放是否被延迟”的判断收敛成 `_request_blocks_can_be_freed()`，使释放路径与抢占路径不会分叉；(2) `break` 被放在所有 mutation（队列删除、budget 回滚、状态迁移、抢占计数）之前，这是“零进展不产生副作用”的关键，也是后续任何零增量修复都可以照搬的模板；(3) 测试设计——用一次性故障注入 + 参数化 FCFS/PRIORITY 复现“栅栏未推进 → 零抢占”与“栅栏推进 → 恢复抢占”两阶段，并用 PRIORITY 的 `failed_call=2` 覆盖 #49206 的 `victim_index < req_index`。同时注意作者显式接受的 stop-and-wait 权衡与未来策略 RFC，不要在未读该权衡的前提下把它当作通用性能优化。

XPU 接线 gated RMSNorm 至 Triton 内核，eager 提速 25%

值得快速精读，尤其适合关注 XPU/Intel GPU 适配的工程师。核心学习点是 CustomOp 的 `forward_xpu` 分发机制：当底层 Triton 内核可跨平台移植时，只需一个转发方法即可解锁整个平台的 eager 性能，而不需要重复实现内核逻辑。建议同步阅读 `layernorm.py` 中 `RMSNormGated` 的既有做法，理解该模式在仓库中的一致性。