Prhub

#54957 [Bugfix][CI] Set cudagraph_mode=FULL for the Ernie4.5-VL ViT cudagraph test

原始 PR 作者 stefankoncarevic 合并时间 2026-09-03 02:18 文件变更 1 提交数 2 评论 2 代码增减 +7 / -0

执行摘要

修复 Ernie4.5-VL ViT cudagraph 测试因模型未编译导致的 CI 失败。

根据 PR body，测试 test_vit_cudagraph_image[ernie45_vl] 在 #54782 后失败，错误信息为 'piecewise CUDA graphs (cudagraph_mode=FULL_AND_PIECEWISE) unavailable, model is not torch-compiled'。根本原因是模型 Ernie4_5_VLMoeModel 的 @support_torch_compile 装饰器被注释掉，导致模型未编译，piecewise cudagraphs 无法分区，测试请求默认模式触发了新 guard。

实现拆解

  1. 问题识别：在 CI 中，Ernie4.5-VL ViT cudagraph 测试在 MI300 和 MI355 上失败，错误指向 cudagraph_utils.py 中的 guard。这影响了多模态模型测试的可靠性。
  2. 原因分析：检查模型定义 vllm/models/deepseek_v4/... 或类似文件，发现 Ernie4_5_VLMoeModel 的 @support_torch_compile 装饰器被注释，因为其文本和视觉专家分离破坏了编译。因此，模型未 torch-compiled，piecewise cudagraphs 无法工作。
  3. 修复方案：修改测试文件 tests/models/multimodal/generation/test_vit_cudagraph.py，在 ernie45_vl 配置中添加 `compilation_config_overrides={
文件 模块 状态 重要度
tests/models/multimodal/generation/test_vit_cudagraph.py vit/cudagraph modified 4.62

分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论，后续有更多讨论时会体现在这里。

风险与影响

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。

完整报告

Markdown PDF

参与讨论