执行摘要
- 一句话:为5个JIT单元测试注册AMD夜间CI
- 推荐动作:建议精读PR body中的验证表格和CI运行链接,了解哪些测试被确认兼容及资源消耗。这对于AMD平台开发者或有AMD部署需求的用户有参考价值。
功能与动机
为了将已在AMD GPU上验证通过的JIT内核单元测试纳入AMD夜间CI,确保AMD平台的持续正确性。PR body明确指出这些测试在ROCm 7.0和7.2上全部通过,且是#28967的下一批。
实现拆解
-
导入 register_amd_ci:在5个测试文件中,将导入语句从 from sglang.test.ci.ci_register import register_cuda_ci 改为 from sglang.test.ci.ci_register import register_amd_ci, register_cuda_ci。
-
添加注册调用:在每个文件已有的CUDA注册之后,添加一行 register_amd_ci(est_time=..., suite="nightly-amd-kernel-1-gpu", nightly=True),其中 est_time 根据各测试的实际运行时间设定(15-30秒不等)。
-
无需工作流修改:夜间AMD CI套件 nightly-amd-kernel-1-gpu 已在之前的PR中配置于 nightly-test-amd.yml 和 nightly-test-amd-rocm720.yml,因此本次变更无需修改CI工作流文件。
关键文件:
test/registered/jit/deepseek_v4/test_c128_v2.py(模块 JIT测试;类别 test;类型 test-coverage): DeepSeek V4 c128压缩内核测试,加入AMD CI注册,确保AMD平台对此关键内核的回归测试。
test/registered/jit/deepseek_v4/test_c4_v2.py(模块 JIT测试;类别 test;类型 test-coverage): DeepSeek V4 c4压缩内核测试,与test_c128_v2类似的注册变更。
test/registered/jit/diffusion/test_group_norm_silu.py(模块 JIT测试;类别 test;类型 test-coverage): GroupNorm+SiLU融合内核测试,注册AMD CI。
test/registered/jit/diffusion/test_qwen_image_modulation.py(模块 JIT测试;类别 test;类型 test-coverage): Qwen-Image调制内核测试,注册AMD CI。
test/registered/jit/diffusion/test_varlen_pack_pad.py(模块 JIT测试;类别 test;类型 test-coverage): 变长打包/填充内核测试,注册AMD CI。
关键符号:未识别
关键源码片段
test/registered/jit/deepseek_v4/test_c128_v2.py
DeepSeek V4 c128压缩内核测试,加入AMD CI注册,确保AMD平台对此关键内核的回归测试。
from __future__ import annotations
import sys
from typing import Tuple, Union
import pytest
import torch
import triton
from sglang.jit_kernel.dsv4 import compress_forward
from sglang.jit_kernel.tests.deepseek_v4.common import (
LegacyContext,
PagedContext,
make_legacy_context,
make_paged_context,
make_state_pool,
to_seq_extend,
)
# 同时导入 register_amd_ci 和 register_cuda_ci
from sglang.test.ci.ci_register import register_amd_ci, register_cuda_ci
# 保留原有 CUDA 注册
register_cuda_ci(est_time=30, suite="base-b-kernel-unit-1-gpu-large")
register_cuda_ci(est_time=30, suite="nightly-kernel-1-gpu", nightly=True)
# 新增 AMD 夜间 CI 注册
register_amd_ci(est_time=30, suite="nightly-amd-kernel-1-gpu", nightly=True)
评论区精华
PR仅有一个来自HaiShaw的审核,状态为APPROVED,无review评论。无实质讨论。
风险与影响
- 风险:风险极低。变更纯为测试注册,不涉及任何生产代码逻辑修改。每个文件仅修改2行(导入+注册),且已在两个ROCm版本上验证通过。存在极小的风险:如果AMD CI环境的配置与验证环境有差异,可能导致测试失败,但PR body已通过dispatched CI验证确认通过。
- 影响:
- 用户:无直接影响。
- 系统/CI:AMD夜间CI将新增5个JIT内核测试,增加约45-120秒的运行时间,确保AMD平台对这些内核的持续兼容性。
- 团队:AMD相关开发者将获得更及时的回归反馈。
- 风险标记:纯测试基础设施变更
关联脉络
- PR #28967 [AMD] Register 7 JIT kernel unit tests for AMD nightly CI: 本PR是#28967的延续,同为注册JIT内核测试到AMD夜间CI,且PR body中明确提及这是继#28967后的新一批。
参与讨论