Prhub

#37380 Revert "[AMD] Add GLM-5.3-Flash recipes for MI300X, MI325X, and MI355X (#36608)"

原始 PR 作者 zijiexia 合并时间 2026-09-01 16:25 文件变更 3 提交数 1 评论 0 代码增减 +14 / -122

执行摘要

回滚 GLM-5.3-Flash 文档中 AMD ROCm 硬件支持内容,恢复为仅支持 NVIDIA。

动机是撤销 PR#36608 引入的 GLM-5.3-Flash 文档中对 AMD ROCm 硬件(MI300X, MI325X, MI355X)的支持内容。PR body 中明确指出,这是一次纯文档的回滚,旨在移除 AMD ROCm 的 README 路径,而与之相关的运行时引擎支持(PR#36607)保留在 main 分支。由于自 #36608 合并后,多个后续 PR(#36544, #36660, #36719, #36740, #37109)已修改相关文件,简单的 git revert 无法适用,因此需要手动解决冲突,确保仅移除 AMD 内容。

该 PR 值得精读,但仅限于关注文档维护和硬件支持策略的读者。它展示了一个典型的、处理良好的文档回滚模式:在复杂的合并历史后,如何精准地移除特定功能线,同时保持其余演进内容的完整性。对于评估项目对 AMD 平台支持政策的演进有参考价值。对于关注核心引擎或性能的工程师,重要性较低。

讨论亮点

本次变更无实际的代码审查讨论。唯一的评审来自 wisclmy0611 的空评论 APPROVE,表明这是一个直接的、无需深入技术讨论的文档清理操作。

实现拆解

  1. 入口与目标:变更入口为 docs/src/snippets/configs/zai-org/glm-5.3-flash.jsx 配置文件,目标是移除所有 AMD 硬件标识(mi300x, mi325x, mi355x)及其衍生配置。
  2. 核心配置键修改:在 glm-5.3-flash.jsx 中,从 supportedHardware 数组中删除三个 AMD 硬件 ID;移除所有 disabled: (s) => ['mi300x', 'mi325x', 'mi355x'].includes(s.hw) 条件判断及其 disableReason;简化 isRecommendedSelection 函数中的硬件判断,仅保留 h100, h200;从 dockerImages 对象中删除对应的 ROCm 镜像条目;删除整个 AMD ROCm 的部署配置块(包含 SGLANG_USE_AITER=1 等环境变量和特定标志)。
  3. 清理间接引用:由于 #36608 后添加的 PR(#36740, #37109)在 EAGLE 和 DFlash2 推理选项上新增了针对 AMD 硬件的 disable 条件,本次变更一并移除了这些变为不可达的条件分支。
  4. 关联文件清理:在 glm-5.3-flash-benchmarks.jsx 中,删除了三行 AMD 硬件的基准测试数据(包括 GSM8K 准确率)。在 docs/cookbook/autoregressive/GLM/GLM-5.3-Flash.mdx 中,移除了所有提及 AMD ROCm、ROCm 引擎、MI300X/MI355X 验证状态、以及 AMD 特定部署说明的段落和句子。
  5. 配套验证:PR 中包含了对文档配置的验证命令(check_cookbook_configs.mjspre-commit),确保移除硬件 ID 后,所有单元格和基准行都指向有效的 supportedHardware
文件 模块 状态 重要度
docs/src/snippets/configs/zai-org/glm-5.3-flash.jsx 配置模板 modified 6.8
docs/src/snippets/configs/zai-org/glm-5.3-flash-benchmarks.jsx 基准测试 modified 5.79
docs/cookbook/autoregressive/GLM/GLM-5.3-Flash.mdx 部署文档 modified 3.73

关键源码片段

docs/src/snippets/configs/zai-org/glm-5.3-flash.jsx core-logic

核心配置文件,定义了 GLM-5.3-Flash cookbook 支持的硬件、策略、选项和部署配置。本次回滚移除了所有 AMD 硬件相关的配置项和条件判断。

以下是回滚后配置的关键部分,展示了硬件支持范围和策略选项如何被简化以仅覆盖 NVIDIA GPU:

// 回滚后的硬件支持与策略选项(关键片段)
export const config = {
  modelName: "GLM-5.3-Flash",  // 仅支持 NVIDIA GPU,移除了 mi300x, mi325x, mi355x
  supportedHardware: ["gb300", "h100", "h200", "b200", "b300", "gb200"],  matchDims: [
    {
      id: "strategy",
      title: "Strategy",
      options: [
        // 移除了 low-latency 选项上针对 AMD 硬件的 disabled 函数
        { id: "low-latency", label: "Low Latency", subtitle: "Adaptive MTP 5/1/6" },
        { id: "high-throughput", label: "High Throughput", subtitle: "Spec decode off" },
      ],
    },
    // ... 其他维度
  ],  // 推荐选择逻辑仅考虑 NVIDIA Hopper 硬件
  isRecommendedSelection(s) {
    const pairing = ["h100", "h200"].includes(s.hw) ? "bf16-tilelang" : "fp8-trtllm";
    // ... 返回值逻辑不变
  },  // KV/DSA 后端选项:移除了针对 AMD 硬件的禁用条件
  overlayDims: [
    {
      id: "kvDsaPair",
      options: [
        {
          id: "fp8-trtllm",
          label: "FP8 + TRT-LLM",
          // disabled 条件现在只针对 Hopper,移除了 AMD 硬件
          disabled: (s) => ["h100", "h200"].includes(s.hw),
          disableReason: "FP8 KV cache with TRT-LLM DSA is not supported on Hopper GPUs.",
          // ... flags
        },
        // ...
      ],
    },
    // ...
  ],  // 推理选项:移除了针对 AMD 硬件的 disable 分支
  playgroundFeatures: {
    speculative: {
      options: [
        // ...
        {
          id: "eagle",
          label: "EAGLE / Adaptive MTP 5-1-6",
          disable: [
            {
              when: { dpAttnOn: [true] },
              reason: "Adaptive MTP does not support DP-Attention...",
            },
            // 移除了针对 AMD 硬件的禁用分支
          ],
        },
        // ...
      ],
    },
  },  // 部署配方:移除了整个 AMD ROCm 配方块
  // ...
};

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

风险极低。变更范围严格限定于文档文件(.jsx.mdx),不涉及任何运行时代码、核心逻辑或配置。主要风险是可能无意中移除了非 AMD 的有效配置,但 PR body 声明已手动解决冲突以保留所有 NVIDIA 内容,且通过了配置检查工具的验证。潜在的用户影响是依赖文档的 AMD 用户会失去相关的部署指南,但这正是本次回滚的目的。

  1. 用户影响:影响正在或计划参考 GLM-5.3-Flash 文档在 AMD MI300X/MI325X/MI355X 上部署模型的用户。他们将无法从文档页面获得配置、镜像和基准测试信息。对于仅使用 NVIDIA 硬件的用户无影响。
  2. 系统影响:无运行时或部署影响。此变更不会改变任何引擎功能、模型性能或服务行为。
  3. 团队影响:明确了 GLM-5.3-Flash 文档当前官方支持的硬件范围(仅 NVIDIA),简化了文档维护。相关的 AMD 运行时支持(PR#36607)仍保留在 main 分支,但未在文档中体现。
文档回滚,影响 AMD 用户 配置一致性(需验证)

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论