vllm-project/vllm

限制TRTLLM注意力支持到SM100，修复GB300（SM103）无限hang问题。

建议技术管理者和工程师精读此PR，以学习硬件兼容性处理模式和外部依赖管理策略；关注FlashInfer修复进展，准备后续更新。

新增SiLU乘法与分块FP8量化的融合CUDA内核，显著提升推理性能。

建议技术管理者和工程师精读此PR，重点关注CUDA内核的设计细节（如共享内存动态分配和量化逻辑）以及融合模式的实现方式，这些决策对高性能计算场景有借鉴价值。同时，注意ROCm兼容性问题，确保后端一致性测试。

修复 H200 GPU 上 NVFP4 量化内核编译警告，避免未引用函数定义。

该 PR 变更简单直接，无需精读。对于关注量化内核或 CUDA 编译优化的工程师，可快速浏览以了解如何通过条件编译消除未引用函数警告。对于大多数开发者，可直接忽略。

重命名推理配置字段为更通用术语，避免与特定模型耦合。

该 PR 变更简单，主要是命名重构，无需深度精读，但开发者应关注： - 文档中离线推理示例的未更新问题，需后续修复。 - 设计决策体现了从具体模型术语向通用抽象演进的趋势，值得在类似重构中借鉴。

为Marlin GEMM和MoE内核添加MXFP8量化支持，统一后端选择逻辑。

该PR值得精读，尤其关注：1) **后端选择策略**：`select_mxfp8_linear_backend()`如何平衡性能与兼容性，为多后端架构提供范本。2) **内核集成模式**：`marlin_utils_fp8.py`中权重重排和尺度转换的细节，展示了如何将新量化格式适配到现有内核。3) **重构决策**：将分散的后端逻辑统一到`Mxfp8LinearOp`，体现了模块化设计思想。

修复 Triton 注意力后端在异构 Tensor Parallelism 下忽略 KV 缓存布局的 bug，确保与 FlashInfer 布局一致。

建议工程师精读此 PR，特别是 `triton_attn.py` 和 `nixl_connector.py` 的变更，以理解 KV 缓存布局在异构 TP 中的关键作用。设计决策如统一布局支持和验证逻辑值得借鉴，可用于类似场景。

在支持模型文档中添加 Granite Vision 模型条目。

该 PR 变更简单直接，无需深入技术分析。对于维护文档完整性的团队成员值得快速浏览以确认模型支持信息的准确性。

修复harmony_utils.py中has_custom_tools函数文档字符串的拼写错误。

这是一个简单的文档修正，无需深入阅读。对于希望了解MCP工具分类机制的开发者，可以关注has_custom_tools函数的实现逻辑，但本次变更本身不包含值得关注的设计决策。