执行摘要

• 一句话：为 Rubin GPU (sm_107) 启用 NVLink all-reduce 路径
• 推荐动作：该 PR 结构清晰、风险低，建议合并。设计上采用复用已验证阈值而非重新基准测试的策略，体现了务实工程风格。值得关注的是 Rubin 首次引入时如何与现有架构兼容，可作为将来新架构支持的模式参考。

功能与动机

Rubin (sm_107) GPU 在 vLLM 的集合通信选择表中没有条目，导致优化 NVLink all-reduce 路径被跳过，流量回退到 NCCL。此 PR 是 Rubin 支持工作的一部分（类似 #49387），旨在启用 NVLink 加速路径以提升性能。

实现拆解

此 PR 是纯新增配置，通过在三处数据结构中增加 10.7 键，将 sm_103 已验证的大小阈值复用到 sm_107，无行为逻辑修改。

1. 自定义 all-reduce 大小阈值：修改 vllm/distributed/device_communicators/all_reduce_utils.py，在 CUSTOM_ALL_REDUCE_MAX_SIZES 和 SYMM_MEM_ALL_REDUCE_MAX_SIZES 字典中分别增加 "10.7" 条目，复用 10.3 架构的阈值。

2. FlashInfer all-reduce + RMSNorm 融合阈值：修改 vllm/compilation/passes/fusion/allreduce_rms_fusion.py，在 FI_ALLREDUCE_FUSION_MAX_SIZE_MB 和 _FI_ALLREDUCE_ONE_SHOT_MAX_SIZES_MB 字典中分别增加 107 键，复用 103 架构的阈值。注意该文件使用整数键（107）而非字符串。

3. PyTorch 对称内存 all-reduce 世界大小支持：修改 vllm/distributed/device_communicators/symm_mem.py，在 SymmMemCommunicator._WORLD_SIZES_MULTIMEM 字典中增加 "10.7": [6, 8]，复用 10.3 的支持配置。

所有变更均为纯添加，不影响现有架构。

关键文件：

• vllm/distributed/device_communicators/all_reduce_utils.py（模块 通信层；类别 source；类型 core-logic）: 自定义 all-reduce 和对称内存 all-reduce 的大小阈值配置表，新增 sm_107 条目以启用优化路径。

关键符号：未识别

关键源码片段

vllm/distributed/device_communicators/all_reduce_utils.py

自定义 all-reduce 和对称内存 all-reduce 的大小阈值配置表，新增 sm_107 条目以启用优化路径。

# 摘自 all_reduce_utils.py：为 sm_107 添加自定义和对称内存 all-reduce 大小阈值
# Rubin 复用已在 H100/GB200 上验证的 10.3 架构阈值，无需重新基准测试
​
CUSTOM_ALL_REDUCE_MAX_SIZES = {
    "9.0": {2: 64 * MiB, 4: 32 * MiB, 6: MiB // 2, 8: MiB // 4},
    "10.0": {2: 2 * MiB, 4: 2 * MiB, 6: 1 * MiB, 8: 1 * MiB},
    "10.3": {2: 4 * MiB, 4: 4 * MiB, 6: 8 * MiB, 8: 4 * MiB},
    # sm_107 (Rubin)：直接复用 10.3 的 all-reduce 阈值
    "10.7": {2: 4 * MiB, 4: 4 * MiB, 6: 8 * MiB, 8: 4 * MiB},
}
​
SYMM_MEM_ALL_REDUCE_MAX_SIZES = {
    "9.0": {2: 64 * MiB, 4: 32 * MiB, 6: 64 * MiB, 8: 64 * MiB},
    "10.0": {2: 8 * MiB, 4: 32 * MiB, 6: 128 * MiB, 8: 128 * MiB},
    "10.3": {2: 4 * MiB, 4: 32 * MiB, 6: 32 * MiB, 8: 64 * MiB},
    # sm_107 (Rubin)：复用 10.3 的对称内存 all-reduce 阈值
    "10.7": {2: 4 * MiB, 4: 32 * MiB, 6: 32 * MiB, 8: 64 * MiB},
}

评论区精华

该 PR 的 review 讨论极少。tlrmchlsmth 直接给予了批准（状态 APPROVED），无公开评论。Claude bot 自动评论指出 PR 来自 fork，自动审查被禁用。未发现争议点或未解决疑虑。

• 暂无高价值评论线程

风险与影响

• 风险：风险极低。所有变更为纯新增配置项，不修改现有逻辑。阈值复用自 10.3 架构，已在 H100/GB200 上验证。唯一风险是 Rubin 实际硬件上的性能表现可能与 10.3 不同，但阈值仅影响 all-reduce 路径选择（回退到 NCCL 仍能正确运行），不会导致功能错误。没有测试配套，但此类配置变更通常通过硬件基准测试验证。
• 影响：直接影响范围：仅 Rubin (sm_107) GPU 用户。对他们而言，NVLink all-reduce 路径将从 NCCL 回退升级为使用自定义 all-reduce、对称内存 all-reduce 和 FlashInfer 融合路径，预期通信性能显著提升。对其他架构用户无影响。团队影响小，维护成本低。
• 风险标记：缺少测试覆盖, 依赖实际硬件验证

关联脉络

• PR #49387 Undisclosed similar PR for Rubin support: PR body 明确提及此 PR 是类似 #49387 的 Rubin 支持续作，但 #49387 的具体细节未提供。