PR #29063 修改了 flashinfer allreduce fusion 的自动后端选择逻辑，但对应的文档注释未及时更新，导致文档与实际行为不一致。本 PR 旨在通过同步注释来消除这种偏差，降低用户和开发者的理解成本。
该PR变更微小，不包含技术洞察，但值得作为“代码与文档同步”的参考实践。无需深度阅读。
本 PR 没有开启 discussion 线程。评论仅有 gemini-code-assist[bot] 触发的每日配额提醒，与变更无关。
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
python/sglang/srt/layers/flashinfer_comm_fusion.py |
通信融合 | modified | 4.05 |
python/sglang/srt/server_args.py |
参数配置 | modified | 4.0 |
python/sglang/srt/layers/flashinfer_comm_fusion.py
documentation
后端的核心实现文件，本 PR 仅更新了其中的支持矩阵注释，没有逻辑变更。
# 以下注释块位于 flashinfer_comm_fusion.py 中，
# 描述了 --flashinfer-allreduce-fusion-backend 的支持矩阵。
# 更新前：auto 被描述为 trtllm on single-node, mnnvl on Blackwell multi-node
# 更新后：auto 被描述为 mnnvl on Blackwell (single- and multi-node), trtllm on SM90 single-node
# 并明确了 SM90 多节点和非 SM90/SM10X 配置不可用。
# FlashInfer allreduce fusion backend support matrix for
# --flashinfer-allreduce-fusion-backend:
#
# Backend | SM103 | SM100 | SM90 | Single-Node | Multi-Node |
# --------- | ----- | ----- | ----------- | ----------- | ---------- |
# trtllm | Yes | Yes | Yes | Yes | No |
# mnnvl | Yes | Yes | Single-node | Yes | Blackwell |
#
# FlashInfer allreduce fusion requires SM90 or SM10X.
# auto resolves to mnnvl on Blackwell (SM100/SM103) systems
# (single- and multi-node) and to trtllm on SM90 single-node systems.
# SM90 multi-node and non-SM90/SM10X configurations are rejected.
# Either mnnvl or trtllm can be requested explicitly on single-node systems,
# and mnnvl additionally on Blackwell multi-node.
python/sglang/srt/server_args.py
documentation
服务启动参数定义文件，本 PR 更新了 flashinfer_allreduce_fusion_backend 参数的 help 文本以及自动启用逻辑的注释。
# 以下代码段位于 server_args.py 的 ServerArgs 类中，
# 展示了 flashinfer_allreduce_fusion_backend 参数的 help 文本更新。
# 更新前：help 文本中 auto 的描述为 "choose trtllm on single-node systems and mnnvl on SM100/SM103 multi-node systems"
# 更新后：auto 的描述为 "choose mnnvl on Blackwell (SM100/SM103) systems (single- and multi-node) and trtllm on SM90 single-node systems"
flashinfer_allreduce_fusion_backend: A[
Optional[Literal["auto", "trtllm", "mnnvl"]],
Arg(
help=(
"Enable FlashInfer allreduce fusion and choose backend. "
"Requires SM90 or SM10X NVIDIA GPUs. "
"Defaults to auto. "
"'auto': choose mnnvl on Blackwell (SM100/SM103) systems "
"(single- and multi-node) and trtllm on SM90 single-node systems. "
"'trtllm': available on single-node systems only. "
"'mnnvl': available on SM90 single-node systems and SM100/SM103 "
"single-node or multi-node systems via MNNVL fabric. "
"Fuses allreduce with Residual + RMSNorm for supported MoE models."
),
),
] = None
# 以及自动启用逻辑的注释更新：
# 更新前：# Auto-enable ... auto resolves to trtllm on single-node systems and mnnvl on Blackwell multi-node systems.
# 更新后：# Auto-enable ... auto resolves to mnnvl on Blackwell (single- and multi-node) and trtllm on SM90 single-node systems.
当前评论区没有形成足够清晰的争议点或结论，后续有更多讨论时会体现在这里。
本 PR 只涉及注释和文档字符串的更新，没有修改任何实际逻辑代码，因此不存在功能性回归、性能下降或安全风险。可能存在拼写或表述不清导致的理解偏差，但风险极低。
对最终用户几乎无影响，因为行为未变；但阅读源码或参数的开发者能获得更准确的信息。对团队无额外维护负担。
当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。
参与讨论