执行摘要

本 PR 修复了由 nvcc 编译器内部错误引起的编译失败问题，并通过扩展 CI 测试配置新增了 8-GPU H200 环境下的 JIT 内核多 GPU 测试套件，以提升测试覆盖和代码质量，变更涉及核心编译错误修复和测试基础设施更新。

功能与动机

此 PR 的主要动机是解决在 CI 中出现的 nvcc 编译错误，该错误被标识为内部编译器 bug。具体引用自 PR body：链接指向一个 CI 失败日志（https://github.com/sgl-project/sglang/actions/runs/23450497021/job/68226180356?pr=21219#step:5:312），提示需要修复以避免开发中断。

实现拆解

实现方案分为三个关键部分：

1. 核心代码修复：
   • 在 python/sglang/jit_kernel/include/sgl_kernel/distributed/custom_all_reduce.cuh 中，将结构绑定 get<0>(elem) 改为显式 elem.get<0>()，以绕过 nvcc 编译错误。
   • 在 python/sglang/jit_kernel/all_reduce.py 中，为 CustomAllReduceObjReal 类添加 __slots__ = ("__dict__",)，防止 TVM 对象字典冲突。
2. CI 测试扩展：
   • 在 .github/workflows/nightly-test-nvidia.yml 中添加 nightly-test-kernel-8-gpu-h200 作业。
   • 在 .github/workflows/pr-test-jit-kernel.yml 中添加 jit-kernel-multigpu-unit-test 作业，均针对 8-GPU H200 环境运行 JIT 内核多 GPU 测试。
3. 测试和文档更新：
   • 修改 python/sglang/jit_kernel/tests/test_custom_all_reduce.py，将 CI 注册从单 GPU 套件改为多 GPU 套件（如 stage-b-kernel-unit-8-gpu-h200），并增加估计时间。
   • 更新 test/README.md 和 test/run_suite.py，添加新测试套件描述和注册。

评论区精华

Review 过程中无评论交锋，仅由 BBuf 批准合并，表明变更被快速接受且无技术争议。

风险与影响

• 技术风险：编译错误修复依赖于特定编译器行为，可能在其他环境（如不同 nvcc 版本）中仍存在问题；新增多 GPU 测试作业可能因资源不足或配置错误导致 CI 失败；TVM 对象 slots 更改可能影响序列化或反射功能。
• 影响分析：对开发者而言，修复编译错误提升开发效率；扩展多 GPU 测试增强代码健壮性，尤其针对分布式场景；对系统 CI 稳定性有正面影响，但可能增加测试时间和资源消耗；对终端用户无直接影响。

关联脉络

• 关联 PR：动机链接提及 PR 21219，表明编译错误可能在该 PR 中首次出现，但具体上下文不详。从近期历史 PR 看，PR 21834（JIT rmsnorm 更新）涉及类似 jit-kernel 模块，显示仓库持续优化 JIT 内核性能。
• 演进趋势：此 PR 反映了仓库在加强多 GPU 测试覆盖方面的努力，与近期多个 PR（如 PR 19890、PR 21783）关注性能优化和调度改进的趋势一致，强调通过 CI 扩展提升代码质量。