执行摘要
为 AMD 新增 2 个 JIT kernel 基准测试注册
确保 AMD GPU 平台能够持续跟踪 JIT kernel 的性能变化,避免新增 benchmark 遗漏在 AMD CI 中运行。PR body 提到 'Follow-up to #30307 / #31492',并指出两个 benchmark 在 ROCm 上均通过,无需裁剪。
可快速合并。作为 CI 基础设施的例行扩展,无需精读。
无 review 讨论。
确保 AMD GPU 平台能够持续跟踪 JIT kernel 的性能变化,避免新增 benchmark 遗漏在 AMD CI 中运行。PR body 提到 'Follow-up to #30307 / #31492',并指出两个 benchmark 在 ROCm 上均通过,无需裁剪。
可快速合并。作为 CI 基础设施的例行扩展,无需精读。
无 review 讨论。
bench_spec_topk1.py 和 bench_vocab_parallel_embedding.py 的导入区域增加 register_amd_ci 的 import。register_cuda_ci 调用之后,添加一行 register_amd_ci(est_time=..., stage="jit-kernel-benchmark", runner_config="amd")。| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
test/registered/jit/benchmark/bench_spec_topk1.py |
基准测试 | modified | 3.52 |
test/registered/jit/benchmark/bench_vocab_parallel_embedding.py |
基准测试 | modified | 3.52 |
test/registered/jit/benchmark/bench_spec_topk1.py
test-coverage
为 speculative decoding topk1 辅助函数 benchmark 添加 AMD CI 注册,确保 AMD 平台持续跟踪性能。
# bench_spec_topk1.py
from sglang.test.ci.ci_register import register_amd_ci, register_cuda_ci
register_cuda_ci(
est_time=30, stage="base-b-kernel-benchmark", runner_config="1-gpu-large"
)
# Register for AMD CI as well, with same estimated time but different stage
register_amd_ci(est_time=30, stage="jit-kernel-benchmark", runner_config="amd")
test/registered/jit/benchmark/bench_vocab_parallel_embedding.py
test-coverage
为 vocab-parallel embedding benchmark 添加 AMD CI 注册,确保 AMD 平台持续跟踪性能。
# bench_vocab_parallel_embedding.py
from sglang.test.ci.ci_register import register_amd_ci, register_cuda_ci
register_cuda_ci(
est_time=10, stage="base-b-kernel-benchmark", runner_config="1-gpu-large"
)
# Register for AMD CI with shorter estimated time
register_amd_ci(est_time=10, stage="jit-kernel-benchmark", runner_config="amd")
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
风险极低:仅添加 CI 注册,不修改任何业务逻辑或 benchmark 实际代码。若 AMD CI 环境发生变化,可能导致 benchmark 失败,但 register_amd_ci 的 continue_on_error 机制可避免阻塞其他 CI。
影响范围小:仅涉及 AMD CI 的 jit-kernel-benchmark 阶段,增加 2 个 benchmark 的执行(总耗时约 40s)。对用户无直接影响。
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论