执行摘要

• 一句话：ROCm 上保留 base-class all_gather 路径修复 decode 回归
• 推荐动作：值得合并。这是一个经过充分性能测试的针对性修复，修复了重要回归，风险极低。

功能与动机

PR #40996 修改了 CudaCommunicator.all_gather，使其绕过基类 all_gather_into_tensor，改用内联 pynccl 路径。该路径在每次调用时分配新的输出张量并执行 movedim/reshape，在 ROCm 上引入可测量的每步开销。在 DeepSeek-V4 上 TP=8 时，decode 吞吐量下降约 22%。本 PR 将 ROCm 路由回基类 all_gather，同时保持 CUDA/NVLS 对称内存路径不变。

实现拆解

1. 修改文件：vllm/distributed/device_communicators/cuda_communicator.py 中的 all_gather 方法。
2. 添加 ROCm 守卫：在内联 pynccl 路径前插入 if current_platform.is_rocm(): return super().all_gather(input_, dim)，使 ROCm 平台走基类 all_gather_into_tensor 实现。
3. 原因：基类路径使用 all_gather_into_tensor，避免了每步的额外张量分配和重排，在 ROCm 上性能更优。CUDA 路径不受影响。

关键文件：

• vllm/distributed/device_communicators/cuda_communicator.py（模块 分布式通信；类别 source；类型 core-logic；符号 all_gather）: 核心修改文件，在 all_gather 方法中添加 ROCm 守卫，使 ROCm 平台走基类 all_gather_into_tensor 路径，避免内联 pynccl 路径的性能损失。

关键符号：all_gather

评论区精华

无 review 讨论。维护者 AndreasKaratzas 直接批准。issue 评论者 Rohan138 独立证实了同样的问题：在 DeepSeek-R1-0528-MXFP4 上，相同的单文件二分定位到同一 hunk，仅还原 cuda_communicator.py 即可恢复基线性能。

• 暂无高价值评论线程

风险与影响

• 风险：低风险。变更仅添加一个 ROCm 条件判断，CUDA 路径完全不变。基类 all_gather 是经过验证的稳定路径。潜在风险：如果未来基类实现发生变化或 ROCm 上基类与 pynccl 通信语义差异，但当前一致。
• 影响：影响范围：仅 ROCm 平台上的 tensor-parallel all_gather 操作。恢复 DeepSeek-V4 和 DeepSeek-R1 等模型在 ROCm 上的 decode 性能至回归前水平（22% 提升）。对 CUDA 用户无影响。
• 风险标记：单一平台条件分支

关联脉络

• PR #40996 DCP supports hybrid attention: 本 PR 修复了 PR #40996 引入的 ROCm 性能回归，即内联 pynccl all_gather 路径替换了基类实现。