执行摘要

• 一句话：默认开启 JIT 自定义 AR v2
• 推荐动作：建议关注此 PR，因为它是默认行为变更，可能影响所有 CUDA 用户的推理性能。尤其是之前依赖原始 all-reduce 实现的用户应测试回归。

功能与动机

根据 PR body 引用的 Slack 讨论和性能数据（链接 PR#19880），原始 all-reduce 存在极端慢速情况，且调度路径有时会在 1-stage 和 2-stage 之间做出错误选择。默认启用 JIT 编译的 v2 实现可以避免这些问题。

实现拆解

1. 修改默认环境变量：在 python/sglang/srt/environ.py 中将 SGLANG_OPT_USE_CUSTOM_ALL_REDUCE_V2 的默认值从 EnvBool(False) 改为 EnvBool(True)，使其在 CUDA 上默认启用。
2. 更新文档注释：在 python/sglang/srt/distributed/device_communicators/custom_all_reduce.py 的 dispatch_custom_allreduce 函数文档中，将原先的“Set v2=1 to use”改为“On CUDA, v2 is used by default. Set v2=0 to fall back to legacy”，明确默认行为。

关键文件：

• python/sglang/srt/environ.py（模块 环境配置；类别 source；类型 configuration）: 环境变量默认值变更的入口文件，将 SGLANG_OPT_USE_CUSTOM_ALL_REDUCE_V2 从 False 改为 True。
• python/sglang/srt/distributed/device_communicators/custom_all_reduce.py（模块 分布式通信；类别 source；类型 documentation）: all-reduce 调度逻辑所在文件，更新了 dispatch_custom_allreduce 函数的文档字符串以反映默认行为变化。

关键符号：未识别

评论区精华

Review 中 gemini-code-assist[bot] 提出两条中优先级建议：

1. 在 custom_all_reduce.py 的文档中，将“legacy CustomAllreduce”的表述改为更明确的回退机制描述，避免与同一文件中的 CustomAllReduce 类混淆。
2. 在 environ.py 中为 SGLANG_OPT_USE_CUSTOM_ALL_REDUCE_V2 添加注释，类似 SGLANG_USE_1STAGE_ALLREDUCE 的详细注释，以提高可维护性。
   两条建议均未被采纳（PR 已关闭合并）。

• 文档注释的模糊性 (documentation): 未采纳，PR 已被合并。
• 环境变量缺少注释 (documentation): 未采纳，PR 已被合并。

风险与影响

• 风险：低风险。变更仅涉及默认值的调整和文档更新，不改变代码逻辑路径。但如果 JIT v2 实现在某些 CUDA 版本或特定模型上存在兼容性问题，用户需要显式设置 SGLANG_OPT_USE_CUSTOM_ALL_REDUCE_V2=0 来回退。
• 影响：影响范围有限，仅影响 CUDA 平台上的 all-reduce 默认实现。预期性能提升，尤其是避免极端慢速情况。用户无需任何配置即可自动获益，但需要知道如何手动禁用。
• 风险标记：默认行为变更, 缺少测试覆盖

关联脉络

• PR #19880 Custom allreduce v2 JIT compiled implementation: PR#19880 提供了 JIT 编译 v2 实现的性能数据，是本 PR 默认启用 v2 的决策依据。