Prhub

#33976 [NPU] [DOC] Upgrade recommendeded sglang version on Ascend NPU

原始 PR 作者 amote-i 合并时间 2026-08-07 17:45 文件变更 23 提交数 3 评论 0 代码增减 +110 / -115

执行摘要

Ascend 文档升级至 v0.5.16,GLM-5.2 切换稳定镜像

PR body 明确两个目标:升级 Ascend NPU 上推荐的 sglang 版本、更新 Ascend NPU 支持特性清单。从提交历史看,v0.5.16 发布后 GLM-5.2 的 0Day 支持已合入主线并进入稳定版本,原先文档中的 daily build 镜像(swr.cn-southwest-2 私有仓、glm5.2-20260615 标签)不再必要;同时用户调参 DeepEP 时需要 DEEPEP_HCCL_BUFFSIZE 参考,投机解码也新增了 EAGLE 选项,需要同步到文档。

无需精读源码逻辑,但值得浏览 glm_5_2.mdx 的镜像切换和 qwen3_6_35b_a3b.mdx 中移除 NEXTN 失败警示的文案,体会版本发布后文档同步的流程。若你维护 Ascend 相关部署脚本,需要注意镜像标签命名约定已从 v-cann 变为 cann-v。

讨论亮点

PR 无人工 review 评论,sglang-npu-bot 直接 APPROVED 后合并,因此没有可见的设计权衡或未解决问题。值得注意的是镜像标签命名约定(cann 版本前置)属于批量替换,缺少人工对旧标签外部引用和站内链接的逐一核查。

实现拆解

  1. 版本基线升级:在 qwen3_5_397b、deepseek_r1、deepseek_v3_2、glm_5_1、kimi_k2_6、mimo_v2_flash、minimax_m2_5、qwen3_235b_a22b 等 10+ 个教程文档中,将 validated based on SGLang v0.5.13/v0.5.14 的表述统一改为 v0.5.16,并同步建议用户使用 v0.5.16 或更高版本。
  2. 镜像标签统一替换:拉取命令由 quay.io/ascend/sglang:v0.5.13.post1-cann9.0.0-a3 批量改为 quay.io/ascend/sglang:cann9.0.0-a3-v0.5.16,新命名约定将 cann 版本前置、SGLang 版本后置;Atlas 800I A3 与 A2 两个 Tab 同步更新。
  3. GLM-5.2 稳定化:glm_5_2.mdx 删除 daily build 镜像及其 Note 说明,best practice 章节将“0Day 仍在 daily build、tuning 未定稿”的表述解耦为仅保留 tuning 未定稿,避免误导。
  4. 特性文档补全:environment_variables.mdx 新增 DEEPEP_HCCL_BUFFSIZE 环境变量说明(+5 行);并补充 EAGLE 到 --speculative-algorithm 支持值列表,对应两个独立 commit。
  5. 配套入门文档同步:installation.mdx、quick_start.mdx、accuracy_evaluation.mdx 等同步版本号,确保从安装到评估的文档链路一致。
  6. 无源码与测试联动:本 PR 仅为 docs 变更,不涉及 Python 代码、schema 或 CI 配置。
文件 模块 状态 重要度
docs/docs/hardware-platforms/ascend-npus/model-deployment/tutorials/glm_5_2.mdx NPU 文档 modified 3.58
docs/docs/hardware-platforms/ascend-npus/model-deployment/tutorials/qwen3_5_397b.mdx NPU 文档 modified 3.35
docs/docs/hardware-platforms/ascend-npus/model-deployment/tutorials/qwen3_6_35b_a3b.mdx NPU 文档 modified 3.26
docs/docs/hardware-platforms/ascend-npus/reference/environment_variables.mdx NPU 文档 modified 2.62
docs/docs/hardware-platforms/ascend-npus/getting-started/installation.mdx NPU 文档 modified 2.69

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

镜像标签命名约定变更:如果 quay.io/ascend/sglang 上 v0.5.16 系列标签不存在或与文档不一致,用户按新文档拉取会直接失败,且旧格式标签在文档中已被移除,回退路径变窄。
GLM-5.2 稳定镜像切换:daily build 可能包含尚未进入 stable 的修复,切到稳定镜像后用户只能等待下个版本,若 v0.5.16 存在 GLM-5.2 回归则文档无法指导回退。
多文档一致性:23 个文件批量替换,需确认没有遗漏旧版本引用、锚点链接或与搜索索引(如 Algolia)的冲突。
影响面:仅影响文档准确性,不涉及运行时逻辑,整体风险较低。

对用户:Ascend NPU 部署用户将按新文档拉取 v0.5.16 镜像,获得稳定的 GLM-5.2 支持,但需适应新镜像标签命名;对系统与代码无任何运行时影响;对团队而言文档维护成本低,但需要确保新标签对应镜像真实可用并已发布。影响范围限定在 Ascend 部署文档,影响程度中低。

镜像标签命名约定变更 GLM-5.2 稳定镜像切换 23 文件批量替换需一致性核查

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论