vllm-project/vllm

集中 DCP 元数据初始化时机，修复投机解码路径下元数据过时或缺失导致的崩溃。

本 PR 是一个高质量的 bugfix 和重构，解决了投机解码与 DCP 结合使用时的关键问题。建议 **精读** 以下关键设计决策： 1. **集中化元数据初始化**: 将 `dcp_local_seq_lens` 的计算统一到 `execute_model` 中一个明确的时间点（在最终 `InputBatch` 构建和分区之后），而不是分散在多个路径中。这是一个清晰且可维护的模式。 2. **调用方拥有缓冲区模式**: `maybe_prepare_dcp_local_seq_lens` 写入调用方提供的缓冲区并返回其视图，确保了 CUDA 图捕获和重放的安全性，并允许微批处理拥有独立缓冲区。 3. **微批处理 DCP 重计算**: 微批处理切片时从自己的截断 `seq_lens` 重新计算 DCP 长度，而不是复制父批处理的值，这是正确性的关键。 对于希望理解 vLLM 内部并行策略（DCP, PCP, DBO）交互的工程师，或参与投机解码功能开发的人员，本 PR 的实现细节尤其值得关注。

为多模态音频重采样添加 torchaudio 后端并设为默认，提升性能与健壮性。

这是一个值得精读的 PR。其设计决策值得学习：1) 选择已声明依赖作为默认以避免可选依赖膨胀；2) 通过 `lru_cache` 实现重采样器实例复用以提升性能；3) 在构造函数中进行前置校验以尽早暴露错误；4) 在并发敏感路径上主动控制线程状态。虽然变更范围集中，但对默认行为的改变影响广泛，其测试策略（性能对比、模型影响验证）也值得借鉴。

为 ROCm 上 DeepSeek-V4 稀疏 MLA 预填充引入 AITER OPUS 内核路由，提升大请求量吞吐。

这是一个高质量、低风险的性能优化 PR。**强烈建议精读**，原因如下：1）它展示了如何在 vLLM 中安全地引入硬件特定优化内核的模式——通过严格的条件守卫、清晰的回退路径和全面的测试。2）讨论中关于性能阈值的决策过程体现了数据驱动的技术判断，对后续类似工作有借鉴意义。3）代码变更集中，逻辑清晰，但涉及底层张量操作和内核调度，理解其细节有助于把握 ROCm 上 MLA 注意力机制的性能优化方向。

为 MiniCPM-V 2.5/2.6/4.0 启用编码器 CUDA Graph，并引入通用捕获轴机制。

本 PR 是一个有价值的性能与架构改进，值得精读。核心亮点在于引入的“捕获轴”机制，这是一个解决多模态编码器 CUDA Graph 中输入形状多样性问题的优雅方案，设计模式具有借鉴意义。实现者对 Idefics2 位置编码的重构也展示了如何使遗留代码适应 CUDA Graph 约束。建议关注以下几点：1）捕获轴机制的通用性如何在其他模型上应用；2）Idefics2 重构对其他模型的影响；3）MiniCPM-V 4.5 未来支持的可能性。

为 DeepSeek-V4 添加完整的 CPU 推理后端，涵盖 AVX512/AMX 内核移植与模块化重构。

该 PR 是一个重大且有价值的特性添加，实现了 DeepSeek-V4 在 CPU 上的高效推理。建议技术管理者和相关工程师精读以下内容：1) `vllm/models/deepseek_v4/cpu/model.py` 和 `cpu_sparse.py` 中的 CPU 注意力实现，特别是类交换和自定义操作注册模式；2) `vllm/model_executor/layers/fused_moe/router/cpu_router.py` 中的 `CPURouter` 设计，它展示了如何将 CPU 特定的路由逻辑优雅地集成到统一的 MoE 框架中；3) `tests/kernels/test_deepseek_v4_cpu_kernels.py` 中的测试策略，它为内核正确性验证提供了良好范例。总体而言，这是一个设计良好、实现完整的重大特性，值得关注其架构决策和技术实现细节。

为 IPC 权重缓存在非 CUDA/ROCm 平台（如 XPU）添加平台支持检查，防止静默错误。

这是一个有价值且设计合理的防御性增强，值得精读。主要关注点有二：一是 `check_ipc_platform_support` 函数的平台判断逻辑是否足够稳健；二是守护进程新增的错误报告协议与现有客户端的兼容性。对于维护多平台支持的工程师，此 PR 展示了如何在架构边界处添加清晰的前置检查。对于普通用户，此变更无感。

修复 AITER MXFP4 ASM-GEMM 因权重缩放形状不满足对齐要求而导致的崩溃，并修正共享专家融合逻辑。

此 PR 值得精读，因为它解决了一个阻止特定硬件/模型组合运行的崩溃 bug，并附带了清晰的测试和验证数据。关键设计决策是采用“逐层守卫”而非全局禁用 ASM GEMM，以及调整融合决策的优先级。这两处改动都体现了对性能与兼容性权衡的细致考虑。建议关注 `process_weights_after_loading` 中的警告日志设计，以及 `Qwen3NextSparseMoeBlock` 初始化逻辑的重组。

将 EPD 代理中多模态元数据从 torch/base64 序列化改为 JSON 数组，提升吞吐。

此 PR 是一个设计良好、有明确性能收益和前瞻性架构考量的改进。它实现了从特定平台序列化格式到语言中立的 JSON 格式的迁移，为 vllm 的分布式推理组件提供了更清晰的接口。实现中包含了良好的验证逻辑和全面的测试。对于关注 EPD 分离架构、多模态处理性能优化或 Rust 前端集成的工程师来说，此 PR 值得精读。主要关注点是确保下游组件（如 Rust 前端 PR #55842）能正确处理新的 JSON 元数据格式。