vllm-project/vllm

禁用 SM110 的 FlashInfer CUTLASS MoE 回退到 Triton

这是一个简单而正确的临时修复，值得精读。关注点：`_supports_current_device()` 的设计模式——通过白名单控制硬件特性选择；以及关联 PR #36286 引入的 oracle 流程如何自动暴露此前隐藏的兼容性问题。团队应跟踪上游 FlashInfer 是否发布 SM110 cubin 以移除此限制。

统一 KV offload 方法签名为 Collection 类型

值得快速合并。此 PR 是纯类型清理，逻辑无误，风险极低。开发者可学习其对 Python 类型系统层次结构（`Collection` vs `Sequence` vs `Iterable`）的合理运用。

新增Moondream3模型，支持Query和Caption

建议阅读，尤其是`reconstruct_from_crops`函数和`Moondream3Processor`的设计，展示了如何将视觉预处理封装在processor中，保持模型核心简洁。此外，Moondream3的prefix-LM实现和MoE配置为其他类似模型提供参考。

Chat Completions API 新增 prompt_embeds 内容部分

值得精读。本 PR 展示了在 vLLM 多模态框架中添加新内容类型的完整流程：占位符 token 注册、Chat 消息解析、token 序列展开、嵌入替换、以及嵌入验证。设计模式可复用，对于需要扩展输入模态的开发者有重要参考。讨论中关于 V0/V1 引擎差异也值得关注。

ROCm 测试绝对值容差优化

该 PR 值得快速合入，因为它是针对特定硬件平台测试稳定性的低风险调整。设计决策（绝对值与相对值组合）值得参考，但无需深入研读。

修复 flex attention 对 block_size < 16 的支持检查

建议精读此 PR 以理解 vLLM 中 attention 后端 `get_supported_kernel_block_sizes` 的设计模式，未来添加新后端时需类似实现。

合并 admission check 到 KV cache 分配，简化调度器

值得精读，展示了将 admission check 与分配逻辑合并以简化接口的设计模式；同时注意时序问题在类似场景中的潜在影响。

Blackwell FP8分组量化寄存器内核，加速60%-2x

该 PR 值得精读，特别是 CUDA 寄存器优化和 shuffle 规约技术。评审中的三个高优先级问题展示了正确性与文档的平衡。后续同类优化可借鉴其 `alignas` 和 `int64_t` 的前置检查。