vllm-project/vllm

新增 FlashInfer CuTeDSL NVFP4 GEMM 后端，性能提升最高 27%

该 PR 值得精读，特别是内核注册、编译融合集成以及性能基准方法。对于 GPU 内核开发和推理优化工程师有较高参考价值。设计上复用 cutlass 的 padding 和 swizzle 布局，保持了与现有后端的接口一致性。

避免 ROCm 下 HIP 初始化导致 fork 回退

此 PR 是 ROCm 平台的关键修复，建议精读。其设计模式（优先使用原生工具避免副作用、安全降级）值得借鉴。

修复 CPU 卸载存储与计算流的竞争条件

此 PR 值得精读，尤其对于涉及 GPU 异步传输、跨流同步的开发者。它展示了一个典型的 CUDA 流间竞争 bug 的分析与修复过程，以及通过自验证测试确保修复的可靠性。对 `srcAccessOrder` 的讨论提供了深层理解 CUDA DMA 语义的机会。

将 Whisper 专用 ModelState 泛化为编码器-解码器通用状态

推荐精读，尤其是 `interface.py` 中基类默认实现的引入方式，以及 `__init__.py` 中基于模块实例的检测策略，是减少样板代码的典型技巧。

为 Blackwell SM120 添加 DSv4 和 GLM-5.1 推理支持

该 PR 是面向 Blackwell 用户的重要功能合入，建议以下角色重点关注： - **推理引擎开发者**：注意力后端基类重构的设计决策值得学习，如何分离 SM100/SM120 代码。 - **模型优化工程师**：kernel warmup 和 autotune 的实现方法可复用。 - **部署工程师**：注意构建依赖（DeepGEMM 和 FlashInfer 的特殊分支）以及推荐的运行参数。

修复DecodeBenchConnector对非张量KV缓存的填充

此 PR 修改集中、意图明确，适合所有使用 DecodeBenchConnector 或关注 kv-connector 模块的同学阅读。虽然仅涉及一个文件，但它展示了如何通过类型分派优雅地处理异构 KV 缓存布局。建议精读 `_fill_blocks` 的分支逻辑，并注意下次添加新缓存类型时需同步更新填充分支。

为 Humming 量化添加 lm-eval 测试配置与 CI 步骤

此 PR 值得阅读以了解 vLLM 中如何为量化方法添加 lm-eval 测试。重点关注测试配置文件的组织方式和 CI 步骤的依赖设置。对于 Humming 量化开发者，可参考此模式扩展更多模型的评估。

修复EAGLE超前查看导致的编码器缓存缺失

该 PR 虽然以 bugfix 为目标，但涉及调度器与模型运行器之间关于编码器缓存生命周期的协作设计，值得阅读。特别是 `_free_encoder_inputs` 与 `gather_mm_embeddings` 的对称调整（一个延迟释放，一个容忍边界缺失），展示了如何通过两个切入点共同解决一致性问题。