执行摘要
此PR回退了PR #35271，移除了CUDA上的PyTorch回退功能，使deep_gemm成为FP8 MQA logits的硬性要求。核心变更是简化代码逻辑，但增加了兼容性风险，影响CUDA用户必须拥有兼容硬件才能运行相关功能。
功能与动机
动机源自PR body：原PR #35271旨在允许dsv3.2模型在deep_gemm未安装或低端GPU（如A800）上运行，但@youkaichao认为模型厂商不支持硬件时应明确声明不支持，而非勉强运行。因此，此PR决定移除回退功能，以明确不支持硬件的边界，减少维护负担。
实现拆解
实现按模块拆解如下：
- vllm/model_executor/layers/sparse_attn_indexer.py：移除了条件逻辑，直接调用
fp8_mqa_logits和fp8_paged_mqa_logits，移除torch fallback路径和警告。
- vllm/utils/deep_gemm.py：删除了
fp8_mqa_logits_torch和fp8_paged_mqa_logits_torch函数，简化了deep_gemm工具集。
- vllm/v1/attention/backends/mla/indexer.py：将deep_gemm检查从
is_deep_gemm_supported改为has_deep_gemm，但未采纳建议的硬件支持检查。
评论区精华
review讨论中的精华点：
- gemini-code-assist[bot]指出：“使用
has_deep_gemm代替is_deep_gemm_supported绕过GPU架构检查...应使用is_deep_gemm_supported以明确失败行为。”但reviewers批准了当前变更，可能未采纳此建议。
- ZJY0516询问：“Could you also revert this? https://github.com/vllm-project/vllm/pull/36519”，此点未获解决，留下关联疑虑。
风险与影响
风险具体包括：
- 兼容性风险：如果deep_gemm未安装或硬件不支持（如A800 GPU），代码将直接失败，缺乏优雅回退，可能导致用户部署中断。
- 硬性依赖增加：移除回退函数后，系统对deep_gemm的依赖更强，影响可移植性和低端GPU用户。
影响评估：对CUDA用户，需确保硬件兼容；对系统，代码简化但风险集中；对团队，减少了回退维护，但需加强用户教育。
关联脉络
此PR直接关联PR #35271（被回退的原PR），揭示了对硬件支持策略的调整：从提供回退到明确失败。此外，review中提及PR #36519，可能涉及类似功能，但关联未深入讨论，建议后续关注是否需协调revert。结合近期历史PR，如涉及fp8和gpu的优化（如PR #37692添加FlexAttention支持），此PR反映了vLLM在性能优化与兼容性间的权衡趋势。
参与讨论