vllm-project/vllm

Blackwell 默认 CUDA 图捕获上限提至 1024

该 PR 值得精读，因为它展示了如何通过调整默认 CUDA 图捕获上限来获取大幅性能提升，并体现了平台差异化默认策略的设计思路。建议重点关注 `_set_cudagraph_sizes` 中平台判断与约束的结合方式，以及测试对 `current_platform` 的 mock 技巧。后续应跟踪 B200 验证结果，并评估是否需要在其他平台（如消费级 Blackwell）做类似调整。

K3 DSpark 融合 KV 投影重构，核函数提速约 4.5 倍

值得精读。推荐关注三个设计点：一是如何用 `MergedColumnParallelLinear` + `shard_id` 在权重加载期零拷贝实现跨层融合投影，复用 vLLM 标准量化分发；二是 `precompute_and_store_context_kv` 从「运行期拼权重 + 回退分支」收敛为「标准线性层 + 元数据」的过程，对比 base/head 可看到手工拼权重代码的大幅删除；三是 `current_workspace_manager()` 替代常驻 buffer 的显存管理方式。若团队计划支持 `Kimi-K3-NVFP4` 或后续量化 DSpark drafter，此 PR 是直接前置。

新增打包 DeepSeek-V4 KV 清零几何回归测试

值得精读。该测试展示了如何为内部数据布局编写 constructor-crossing 回归测试：不重新实现任何布局算术，而是实例化真实生产代码链并以元数据语义作为断言目标；同时用新旧格式兼容分支让失败信息直接指向缺陷本质。对 KV 缓存布局、MLA 和 `KVBlockZeroer` 相关改动者是很好的防护样例。

新增 AITER MLA 自定义算子注册与 opcheck 契约测试

值得 kernel/自定义算子开发者精读，尤其是“用单次 opcheck 替代多条冗余断言、将 env 行为测试排除出内核测试域”的范围取舍；该模式可复用于其他 torch.library 自定义算子（如 mxfp4、fp8、flashattention 封装的注册验证）。

阻止 microbatch 拆开前缀写入者，修复 AMD CI 偶发失败

建议精读。这是一个以极小侵入修复微妙调度正确性问题的高质量样例：_allow_microbatching 的判断完全基于已有调度数据结构（num_computed_tokens_cpu 与 block table），不引入新契约，并通过“任一 rank 否决即全体不拆分”的语义保证了分布式一致性。值得关注的设计决策是只对“整块”做检查、decode 提前退出、以及不做厂商 gating。若后续要在 model runner v2 或新调度器上复刻同类保护，本函数是现成参考。

ShortConv 改用 PluggableLayer 基类

值得快速浏览以了解 CustomOp 到 PluggableLayer 的迁移模式（导入、装饰器、基类三处联动，注册名保持不变），但不必精读：改动面极小且无测试/文档配套。关注点应放在 PluggableLayer 与 CustomOp 的语义等价性上，后续其他算子做同样迁移时可复用本 PR 作为基准。

加固 Transformers 多模态处理，修复占位符与字段归属 bug

值得精读。核心设计是 `_partition_keys_by_modality`：利用子处理器声明的 `model_input_names` 做字段归属，既避免硬编码键名又提供未认领告警。理解该模式有助于后续处理视频模态或新增 HF 处理器兼容层。建议关注 [1/N] 系列后续 PR，特别是 `text_replacement_offsets` 对相邻音频占位符的根本性修复。

Humming 后端改用显式 LayerConfig 契约

值得精读。这是“外部内核库集成解耦”的典型案例——通过显式 `LayerConfig` + 张量契约替代层对象直传，把 vLLM 模型层与第三方 kernel 库的耦合降到最低，设计模式可复用到其他后端。重点阅读 `humming_utils.py` 的 `prepare_humming_linear_layer_config` / `apply_humming_linear` 与 `fused_humming_moe.py` 的 `HummingExpertsBase`；review 中关于“layer 参数为何暂不能移除”的讨论揭示了一个真实的量化布局兼容问题，值得关注其后续进展。