Prhub
← 返回仓库详情

#39509 [ROCm] [AITER] Revert AITER version to v0.1.10.post3

vllm-project/vllm · 作者 tjtanaa · 合并时间 2026-04-11 00:25

分析状态 已生成
文件变更 1提交数 1 · 评论 0
代码增减 +1 / -1
rocm v1 bugfix

执行摘要

将 ROCm 基础 Dockerfile 中的 AITER 版本从 v0.1.12 回退到 v0.1.10.post3，解决已知 bug 和标签移动问题。

根据PR body和关联Issue，回退AITER版本有两个主要原因：1）AITER v0.1.12标签频繁移动（Issue #2691），导致无法追踪构建使用的具体提交，破坏了版本管理的可靠性；2）v0.1.12存在多个已知bug，包括DeepSeek blockscaled gemm运行时错误（Issue #39485）和GLM-5.1-FP8解码在context_len>2048时产生随机topk的问题（Issue #39303），这些bug影响了模型推理的正确性。

该PR变更简单直接，值得快速合并以解决紧急问题。建议阅读者关注关联Issue #39303和#39485以了解bug详情，并跟踪AITER上游的稳定版本发布。对于ROCm平台开发者，需注意此回退是临时措施，长期需等待AITER v0.1.12的稳定修复版本。

讨论亮点

Review讨论非常有限。gemini-code-assist[bot]仅确认了变更内容，没有提供实质性反馈。gshtras直接批准了PR，表明团队对回退决策有共识。没有出现关于回退策略、替代方案或长期计划的讨论。

实现拆解

本PR仅修改了一个文件：docker/Dockerfile.rocm_base。将第12行的ARG AITER_BRANCH从"v0.1.12"改为"v0.1.10.post3"。这是一个直接的版本回退，不涉及任何代码逻辑变更，仅影响Docker构建时拉取的AITER版本。

文件 模块 状态 重要度
docker/Dockerfile.rocm_base docker modified 7.0

分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

版本回退的必要性 正确性

PR body 和关联 Issue 明确指出 v0.1.12 存在严重 bug（DeepSeek gemm 错误和 GLM-5.1-FP8 解码问题）且标签移动导致版本追踪困难。

结论：团队一致同意回退到 v0.1.10.post3 作为紧急修复。 · 已解决

变更影响评估 question

Review 中没有讨论回退可能带来的副作用，如丢失 v0.1.12 的潜在改进或引入新问题。

结论：未明确讨论，但批准表明团队接受回退风险。 · unresolved

风险与影响

风险较低但需注意：1）回退到旧版本可能丢失v0.1.12中已修复的其他bug或性能改进，但鉴于当前版本存在严重功能问题，回退是必要权衡；2）依赖管理风险：如果v0.1.10.post3也存在未发现的问题，可能引入新bug；3）构建一致性风险：Docker镜像版本变更可能影响CI/CD流水线的可重复性，但PR body未提及测试计划或验证结果。

影响范围：1）对用户：修复了使用ROCm平台和AITER后端时DeepSeek和GLM-5.1-FP8等模型的运行时错误，恢复模型功能；2）对系统：确保ROCm Docker镜像构建使用稳定的AITER版本，避免因标签移动导致的不可预测行为；3）对团队：这是一个紧急修复，优先级高，但缺乏测试结果验证，可能需后续补充测试。影响程度中等，主要限于ROCm平台用户。

依赖版本回退 缺少测试验证

关联 Issue

#2691 Release tags are moving
#39303 [Bug]: aiter.ops.triton.attention.pa_mqa_logits.deepgemm_fp8_paged_mqa_logits_stage1` returns random topk for `context_len > 2048` on ROCm (gfx950), breaks GLM-5.1-FP8 decode
#39485 [Bug]: Runtime error on ROCm platform serving Deepseek-R1 using VLLM_ROCM_USE_AITER=1

完整报告

Markdown PDF

执行摘要

  • 一句话：将ROCm基础Dockerfile中的AITER版本从v0.1.12回退到v0.1.10.post3，解决已知bug和标签移动问题。
  • 推荐动作：该PR变更简单直接，值得快速合并以解决紧急问题。建议阅读者关注关联Issue #39303和#39485以了解bug详情，并跟踪AITER上游的稳定版本发布。对于ROCm平台开发者，需注意此回退是临时措施，长期需等待AITER v0.1.12的稳定修复版本。

功能与动机

根据PR body和关联Issue，回退AITER版本有两个主要原因：1）AITER v0.1.12标签频繁移动（Issue #2691），导致无法追踪构建使用的具体提交，破坏了版本管理的可靠性；2）v0.1.12存在多个已知bug，包括DeepSeek blockscaled gemm运行时错误（Issue #39485）和GLM-5.1-FP8解码在context_len>2048时产生随机topk的问题（Issue #39303），这些bug影响了模型推理的正确性。

实现拆解

本PR仅修改了一个文件：docker/Dockerfile.rocm_base。将第12行的ARG AITER_BRANCH从"v0.1.12"改为"v0.1.10.post3"。这是一个直接的版本回退，不涉及任何代码逻辑变更，仅影响Docker构建时拉取的AITER版本。

关键文件：

  • docker/Dockerfile.rocm_base（模块 docker）: 这是唯一修改的文件，控制了ROCm基础Docker镜像中AITER依赖的版本，直接影响所有基于此镜像的ROCm平台构建和运行时行为。

关键符号：未识别

评论区精华

Review讨论非常有限。gemini-code-assist[bot]仅确认了变更内容，没有提供实质性反馈。gshtras直接批准了PR，表明团队对回退决策有共识。没有出现关于回退策略、替代方案或长期计划的讨论。

  • 版本回退的必要性 (correctness): 团队一致同意回退到v0.1.10.post3作为紧急修复。
  • 变更影响评估 (question): 未明确讨论，但批准表明团队接受回退风险。

风险与影响

  • 风险：风险较低但需注意：1）回退到旧版本可能丢失v0.1.12中已修复的其他bug或性能改进，但鉴于当前版本存在严重功能问题，回退是必要权衡；2）依赖管理风险：如果v0.1.10.post3也存在未发现的问题，可能引入新bug；3）构建一致性风险：Docker镜像版本变更可能影响CI/CD流水线的可重复性，但PR body未提及测试计划或验证结果。
  • 影响：影响范围：1）对用户：修复了使用ROCm平台和AITER后端时DeepSeek和GLM-5.1-FP8等模型的运行时错误，恢复模型功能；2）对系统：确保ROCm Docker镜像构建使用稳定的AITER版本，避免因标签移动导致的不可预测行为；3）对团队：这是一个紧急修复，优先级高，但缺乏测试结果验证，可能需后续补充测试。影响程度中等，主要限于ROCm平台用户。
  • 风险标记：依赖版本回退, 缺少测试验证

关联脉络

  • PR #37539 [Performance] Remove unnecessary zero-fill of MLA decode output tensor in Aiter backend: 同样涉及ROCm平台和AITER后端优化，关注性能改进，而本PR是稳定性修复。
  • PR #37352 [Kernel][Hardware][AMD] Add TritonW4A16LinearKernel for ROCm: 同为ROCm平台相关PR，涉及内核和量化支持，显示团队对AMD生态的持续投入。

参与讨论