Prhub

#49916 [CI][ROCm] Reduce V1 attention test runtime

原始 PR 作者 AndreasKaratzas 合并时间 2026-07-27 11:12 文件变更 2 提交数 4 评论 0 代码增减 +66 / -51

执行摘要

缩减 ROCm V1 attention 测试耗时

PR body 明确表示要‘Reduce V1 attention test runtime’,通过从 MI250 移除测试、对 MI300/MI355 分片、以及优化参数收集时跳过不可运行的组合来减少 CI 耗时。

建议阅读,特别是 collection-time 参数验证的设计,可推广到其他需要根据运行时能力跳过测试的场景。

讨论亮点

PR 没有较多讨论。审核者 tjtanaa 评论 'LGTM. Let's check the CUDA CI.' 并批准,无未解决疑虑。

实现拆解

  1. 移除 MI250 测试 job.buildkite/test-amd.yaml):删除 V1 attention (H100-MI250) 标签块。
  2. 分片 MI300 和 MI355.buildkite/test-amd.yaml):添加 parallelism: 2 和分片命令。
  3. 添加 ROCm AITER prefill backendtests/v1/attention/test_mla_backends.py):在 PREFILL_BACKENDS_TO_TEST 中加入 MLAPrefillBackendEnum.ROCM_AITER_FA
  4. 实现 collection-time 参数验证tests/v1/attention/test_mla_backends.py):新增 _prefill_backend_dimension_params 函数,通过 validate_configuration 提前跳过不支持的组合。
  5. 重构参数化tests/v1/attention/test_mla_backends.py):test_backend_correctness 改为调用 _prefill_backend_dimension_params
文件 模块 状态 重要度
tests/v1/attention/test_mla_backends.py MLA 测试 modified 6.49
.buildkite/test-amd.yaml CI 配置 modified 4.23

关键符号

_prefill_backend_dimension_params test_backend_correctness

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

主要风险包括:

1) 移除 MI250 测试后可能遗漏该硬件上的回归;
2) 分片依赖 BUILDKITE_PARALLEL_JOB 环境变量,配置错误可能导致 job 失败;
3) collection-time 跳过基于 validate_configuration,该方法如果有 bug 可能跳过本该运行的测试。

直接减少 AMD CI 中 V1 attention 测试的总 wall time,提升 CI 资源利用率。对 MI300 和 MI355 用户正面,MI250 用户部分测试覆盖降低,但未移除源码支持。

移除 MI250 测试覆盖 分片配置正确性

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论