vllm-project/vllm

为 TokenSpeed MLA 后端添加 DCP 与 Eagle 支持

建议有 Blackwell 后端开发需求的团队精读。PR 展示了 DCP 与投机解码在 MLA 后端上的集成方案，特别是 FlashInfer 后端的兼容性设计决策（XQA 回退、supports_dcp_with_varlen 控制）。Review 中的讨论对理解 DCP 下 causal mask 的正确性很有价值。测试用例是良好的合约验证示例。

跳过 ROCm 失败测试

该 PR 仅用于临时解除 CI 阻塞，不值得精读。但关联的 Issue #48510 和修复 PR #48179 值得关注，因为它们涉及 ROCm 上 Workspace 增长分配的深层问题。

修复推理-工具边界缓冲丢失问题

建议前端及解析器模块的开发者阅读此 PR，学习流式转换中 flush 设计的选择，以及如何通过真实解析器组合编写可靠的回归测试。修复方法本身简洁且安全，值得在类似跨引擎边界中推广。

文档新增 DeepSeek-V3.2 支持信息

该 PR 是标准的文档同步更新，值得快速批准。

修复 Transformers 后端 CUDA Graph 捕获时 input_ids 与 inputs_embeds 冲突

该 PR 值得阅读，尤其适合理解 vLLM 中 CUDA Graph 捕获路径与 Transformers 模型之间的交互。关键设计决策：选择在模型层（`Base.forward`）进行防御性检查，而非修改 CUDA Graph 捕获逻辑，从而避免引入更广泛的变动。这是 4 行代码修复经典契约违规的范例。

CPU 编码器缓存卸载连接器

强烈建议精读。`EmbeddingCache` 和 `StepTracker` 的设计模式（延迟同步＋FIFO 驱逐）可在类似的双进程卸载场景中复用。调度器与工作器的职责分离为 vLLM 卸载组件提供了清晰架构参考。

改进 Matryoshka 维度校验与错误消息

此 PR 是典型的代码可维护性改进，建议合并。值得注意的设计决策是：在 Matryoshka 路径中先做范围检查再做精确值检查，分层清晰，值得借鉴。

修复投机解码预填充 CG 捕获的陈旧注意力元数据

该 PR 值得精读，特别是如何通过共享目标模型的持久缓冲区地址来避免运行时注意力元数据重建的设计决策。合并后的 `SpeculatorCudaGraphManager` 简化了捕获逻辑，同时也展示了 FULL CUDA Graph 捕获中元数据一致性的重要性。