Prhub

#46456 [CI] intel CI: add quantization and awq case for xpu

原始 PR 作者 wendyliu235 合并时间 2026-07-03 09:51 文件变更 3 提交数 5 评论 0 代码增减 +30 / -0

执行摘要

Intel CI 新增量化和 AWQ 测试

根据 PR 标题和提交消息,目的是为 Intel GPU(XPU)CI 添加量化和 AWQ 测试覆盖,以验证 Intel 平台上的量化推理功能是否正常工作。PR body 仅包含模板,未提供详细动机,但从变更内容可判断是基建层面的测试增强。

该 PR 是典型的 CI 增强变更,逻辑简单。如果读者关注 Intel GPU 上的量化支持状态,可以了解新增的测试覆盖。对于大多数开发者,无需深入阅读。

讨论亮点

该 PR 没有收到任何审查评论,仅有两次 approved,说明变更简单直接,未引起争议。

实现拆解

  1. 新建独立的量化 CI Job:新增 .buildkite/intel_jobs/quantization.yaml,定义了一个名为 "Quantization" 的 Buildkite pipeline step。该 job 在 intel_gpu 设备上运行,依赖 image-build-xpu,通过 run-intel-test.sh 执行 tests/quantization/test_per_token_kv_cache.py 中的测试,同时排除了 test_triton_unified_attention_per_token_head_scale[int4-16-128-num_heads0-seq_lens1](该用例已知错误)。
  2. 在现有 XPU Example Test 中增加 AWQ 模型推理:在 .buildkite/intel_jobs/test-intel.yaml 的 "XPU example Test" 步骤中,新增一行命令,使用 TheBloke/TinyLlama-1.1B-Chat-v0.3-AWQ 模型运行基础的 examples/basic/offline_inference/generate.py,block-size=64,模式为 enforce-eager。
  3. 同步更新 CI 脚本:在 .buildkite/scripts/hardware_ci/run-intel-ci-test.sh 的 example test 分支中,同样新增上述 AWQ 模型推理命令,保持与 YAML 配置一致。
文件 模块 状态 重要度
.buildkite/intel_jobs/quantization.yaml CI 配置 added 4.9
.buildkite/intel_jobs/test-intel.yaml CI 配置 modified 2.76
.buildkite/scripts/hardware_ci/run-intel-ci-test.sh CI 脚本 modified 2.24

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险极低。变更仅涉及 CI 配置和脚本,不修改任何业务逻辑代码。新增的 AWQ 用例执行了 examples/basic/offline_inference/generate.py 脚本,若 Intel 硬件上 AWQ 量化模型推理存在兼容性问题,可能导致该 CI job 失败,但不会影响主流程。量化 job 排除了一个已知失败的 triton 测试,避免了误报。

影响范围限定在 Intel GPU 的 CI 管道。增量覆盖了 Intel XPU 上的量化和 AWQ 测试,有助于提前发现 Intel 平台上的量化推理回归问题。对其他 GPU 平台(NVIDIA/AMD)无影响。

仅有配置变更,风险极低

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论