vllm-project/vllm

为池化器头部类添加单元测试

建议合并。新增的测试覆盖了池化器头的核心路径和边界条件，适合作为同类测试的模板。可关注后续是否将测试扩展到其他池化器（如图像池化）。

新增 INT8 W4A8 量化文档及 Arm CPU 支持表格

推荐阅读此 PR 以了解如何正确组织 vLLM 量化文档及其支持硬件表格。对于维护文档的开发者，其中关于 mkdocs 重定向和内容复用的讨论（如 pymdownx.snippets）具有参考价值。

新增 ROCm AITER unified attention 核正确性测试

值得阅读，尤其是作为 ROCm 自定义 kernel 正确性测试的模板：展示了如何构造 block-sparse attention 输入、如何利用参考实现进行对比、如何参数化覆盖多种数据形状与数值精度。可借鉴到其他 kernel 测试中。

为 ParallelConfig 数值字段添加 Pydantic 下限约束

该 PR 值得合入。代码简洁、意图清晰，且与 `EPLBConfig` 等已有约束一致。其中关于 `data_parallel_rank_local` 和 `node_rank` 因 `-1` 标记值而跳过约束的决策已经过审查并记录，可逆的。

冻结 worker GC 减少 P99 ITL 抖动

该 PR 值得精读，尤其是对高吞吐低延迟推理服务有需求的团队。设计决策（仅在 worker 上线后冻结、shutdown 时解冻）简洁清晰，可作为 Python 服务性能优化的参考模式。此外，注意作者通过实验验证了 CUDA graph 捕获不受影响，避免了不必要的改动。

修复 MiniCPM-V-4.6 视频推理崩溃

值得精读，这是一个典型的 bugfix PR，展示了多模态 pipeline 中数据流不一致的排查与修复思路。设计决策（优先使用已处理尺寸、在数据流源头记录实际尺寸）具有通用借鉴意义。建议合并后为 MiniCPM-V-4.6 添加视频回归测试。

支持 Granite Speech Plus 模型推理

值得精读的设计模式：通过提取工厂方法 `_build_encoder` 实现子类化复用，避免了复制粘贴基类 `__init__`。同时，该 PR 展示了在 vLLM 中添加新多模态模型的标准流程：模型代码、注册、测试、文档联动。对于需要扩展语音模型变体的开发者有参考价值。

支持 compressed-tensors WNA8O8Int 线性层和 WNInt embedding

值得精读，特别是 Triton kernel 实现（`_dequant_gather_kernel`）和混合精度内核工厂模式（`choose_mp_linear_kernel`）。理解如何集成新量化方案到现有架构具有参考价值。