执行摘要

• 一句话：ROCm AITER FA 空张量 .max() 崩溃修复
• 推荐动作：建议合入此 PR。变更微小但关键，解决了实际崩溃问题，且经社区验证。值得关注的是同文件中是否存在其他类似的未守卫空张量操作。

功能与动机

ROCm 上 AITER FA 后端在语音转文本模型预热时，num_chunks 可能为 0，导致 cu_seq_lens_cpu[:, -1].max().item() 对空张量调用 .max()，抛出 RuntimeError: max(): Expected reduction dim to be specified for input.numel() == 0，进而杀死 EngineCore。PR 目的即在防止此崩溃。

实现拆解

在 vllm/v1/attention/backends/rocm_aiter_fa.py 的 build 方法中，修改 max_cum_tokens 的计算：

1. 原代码 max_cum_tokens = cu_seq_lens_cpu[:, -1].max().item() 无守卫，当 num_chunks == 0 时对空张量调用 .max()。
2. 改为条件表达式 cu_seq_lens_cpu[:, -1].max().item() if num_chunks > 0 else 0。
3. 后续逻辑使用 max_cum_tokens 构造 range_idx 等张量，当 max_cum_tokens == 0 时，这些张量的形状自然为 0，后续分块元数据构造也能正确工作。
   仅在单文件单行核心逻辑变更，无测试、配置或部署配套改动。

关键文件：

• vllm/v1/attention/backends/rocm_aiter_fa.py（模块 注意力；类别 source；类型 core-logic）: 核心修复文件，在 AITER FA 后端的 build 方法中添加了空张量守卫。

关键符号：未识别

关键源码片段

vllm/v1/attention/backends/rocm_aiter_fa.py

核心修复文件，在 AITER FA 后端的 build 方法中添加了空张量守卫。

# vllm/v1/attention/backends/rocm_aiter_fa.py (lines 605-609)
            # 避免当没有 context 时对空张量调用 .max()
            # (num_chunks == 0, 例如 Whisper encoder 的第一次传递 )
            max_cum_tokens = (
                cu_seq_lens_cpu[:, -1].max().item() if num_chunks > 0 else 0
            )

评论区精华

审核者 AndreasKaratzas 指出变更本身合理，但 CI 测试似乎失败；同时提到 Whisper 模型在 main 分支上已正常，但此 PR 修复的是不同的 AITER FA 崩溃（仍在 main 上未修复）。作者 djramic 确认准确性 bug 已在 main 上修复，而此 PR 针对独立的 AITER FA 崩溃，最新的 nightly 仍会触发该崩溃，建议合并。最终审核者批准并入。

• CI 测试失败与修复必要性确认 (other): 作者澄清了独立崩溃的存在，审核者批准合并。

风险与影响

• 风险：风险极低：变更仅在一行内添加条件守卫，当 num_chunks > 0 时行为完全不变；当 num_chunks == 0 时回退为 0，后续逻辑自然处理空输入。无性能影响。主要风险在于此修复可能未覆盖所有空张量场景（如其他位置的 .max() 调用），但本次 PR 范围明确。
• 影响：影响范围有限：仅修复 ROCm 上 AITER FA 后端在特定边界条件（语音模型预热时 num_chunks == 0）下的崩溃。对正常流程用户无影响。团队可从修复中学到在空张量操作前添加守卫的防御性编程模式。
• 风险标记：核心路径变更, 缺少测试覆盖

关联脉络

• PR #47728 [Bugfix][V1] Free out-of-window blocks on the processed-token basis under async scheduling: 同为 v1 子系统的 bugfix，涉及 KV cache 管理边界条件。
• PR #47801 [Bugfix][DCP] Cast LSE to fp32 in a2a combine to fix bf16 bitcast crash: 同为 v1 attention 后端的 bugfix，修复空/边界张量操作。
• PR #42642 Fix FlashAttention MLA prefill V unpadding: 同为 attention 后端的 bugfix，修复预填充阶段的边界条件。