执行摘要
本PR修复了ROCm平台下编码器-解码器模型（如Whisper、BART）交叉注意力层的后端调度错误，通过从ROCM_ATTN和ROCM_AITER_FA后端移除ENCODER_DECODER支持，确保调度选择正确工作的后端（如ROCM_AITER_UNIFIED_ATTN或TRITON_ATTN），从而解决波束搜索结果不匹配问题，提升了模型可靠性和测试覆盖。
功能与动机
本PR旨在解决测试test_whisper_beam_search_single_beam在ROCm上的失败问题。PR body中解释：在编码器-解码器模型中，交叉注意力层（AttentionType.ENCODER_DECODER）在ROCM_ATTN和ROCM_AITER_FA后端上计算错误，当max_query_len > 1（如波束搜索）时导致输出不匹配，而贪婪解码因max_query_len=1跳过错误路径不受影响。Issue评论提到此修复由PR #38321的讨论引发，凸显了跨后端调度的重要性。
实现拆解
关键改动按模块拆解如下：
- 注意力后端模块：在
rocm_attn.py和rocm_aiter_fa.py中，修改supports_attn_type方法，移除ENCODER_DECODER支持，并添加详细注释解释技术原因（如ROCM_ATTN的prefill kernel错误处理缓存语义，ROCM_AITER_FA的序列边界和causal mask问题）。
- 平台调度模块：在
rocm.py中，改进get_attn_backend_cls函数的日志记录，当后端因不兼容被跳过时，添加日志显示跳过原因和替代后端，提升调试能力。
- 测试模块：在
test_transcription_validation_whisper.py中，扩展测试参数化以覆盖多个ROCm后端（如默认、TRITON_ATTN、ROCM_AITER_UNIFIED_ATTN），并禁用prefix caching以减少非确定性，确保修复验证。
- 文档与工具模块：更新
attention_backends.md文档表格，并修改generate_attention_backend_docs.py生成器，使其自动计算支持类型，防止未来不一致。
评论区精华
review讨论中只有一个关键线程：gemini-code-assist[bot]在文档文件上指出ROCM_ATTN条目仍显示支持所有类型，与代码变更矛盾。作者AndreasKaratzas回应：
"This was a staticly set value in the auto generator. I modified this such that it collects the number of possible attention types."
这导致修改文档生成器，确保支持类型从代码自动派生，解决了文档一致性问题。讨论无争议，结论清晰。
风险与影响
技术风险：
1) 文档不一致风险已通过自动化生成器缓解；
2) 移除ENCODER_DECODER支持可能导致用户配置意外回退到其他后端，但日志改进有助于监控；
3) 测试扩展可能增加CI执行时间，但提高了覆盖质量。总体风险低，因为变更针对特定后端和场景。
影响分析：对用户，ROCm平台上的编码器-解码器模型波束搜索将产生正确结果，提升用户体验；对系统，后端调度更精准，避免计算错误，增强稳定性；对团队，测试覆盖扩展和日志改进有助于未来调试和CI维护。
关联脉络
本PR与历史PR #38321关联（如Issue评论所述），后者可能涉及类似交叉注意力问题，表明vLLM社区在持续优化ROCm后端支持。从近期历史PR看，多个ROCm相关PR（如#38415、#38413、#38252）关注CI和基础设施改进，本PR是其中一环，专注于注意力后端调度和测试修复，反映了vLLM在ROCm平台上的成熟度提升趋势。
参与讨论