vllm-project/vllm

重构 CPU 亲和性与内存管理，修复性能回归并支持自动 KV 缓存大小分析。

建议技术管理者和工程师精读 `OMPProcessManager` 类的设计，理解其如何适配不同 OpenMP 库和架构；同时关注 `csrc/cpu/utils.cpp` 中的 NUMA 代码风险，并在部署前进行多架构测试。

修复 Gemma4 多模态模型在 embed_input_ids 中的 GPU/CPU 同步阻塞问题。

该 PR 虽然改动小，但揭示了 vLLM 在多模态模型推理中优化设备同步的典型模式。值得关注的点包括： - 理解 `non_blocking=True` 在避免同步阻塞时的应用场景。 - 学习如何平衡“张量留在 CPU”的设计意图与避免冗余传输的性能考量。 - 结合 PR #34246 查看完整演进脉络。

修复 UniformTypeKVCacheSpecs 下 CPU 块数计算错误，避免 CPU 卸载池大小不足。

该 PR 值得精读，尤其是对于从事 KV 卸载模块开发的工程师。关注点： 1. **设计决策**：从基于页面大小的假设性计算转向基于实际张量大小的通用计算，体现了对缓存规格抽象的理解。 2. **防护机制**：添加 `num_blocks > 0` 检查，提升了代码健壮性。 3. **测试缺口**：review 中提到的测试缺失是值得注意的后续改进点。

将 Marlin 内核加入 FP8 块缩放矩阵乘内核选择列表，修复 A100 等设备上 FP8 模型加载失败问题。

该 PR 值得精读，特别是内核选择逻辑的调整和 `issubclass` 检查的使用，展示了在量化内核调度中处理异构内核接口的常见模式。关注 `init_fp8_linear_kernel` 函数中条件分支的设计，以及类型注解的更新如何反映内核类型的演进。

将 observability 相关示例文件从旧目录移动到新的 observability 目录下，重组示例结构。

该 PR 主要是目录重组，不值得深入阅读代码逻辑；但对于理解项目示例组织策略和文档更新有参考价值。

修改新PR机器人触发条件，从检查作者PR数改为检查合并PR数。

该PR变更简单，适合快速浏览以了解CI/CD流程的优化思路。值得关注的设计决策是使用“是否有合并PR”而非“PR数量”作为首次贡献的判断标准，这更符合开源项目的实际场景（如AI代理、草稿PR）。无需深入阅读代码细节。

添加Gemma 4模型到支持模型列表文档。

建议快速浏览以确保文档准确性，特别是模态支持注释部分，对使用Gemma 4多模态功能的用户有直接价值；无需深入代码分析。

为IOProcessorRequest添加to_pooling_params方法以修复插件测试失败。

该PR是一个小型但关键的修复，值得快速浏览以理解插件请求的接口一致性。关注点在于`IOProcessorRequest`如何通过`to_pooling_params`方法集成到池化参数转换流程中，这反映了vLLM中请求协议设计的模块化思路。