Prhub

#23378 [NPU] offloading docs update

原始 PR 作者 Hide-on-bushsh 合并时间 2026-04-22 11:01 文件变更 1 提交数 1 评论 2 代码增减 +1 / -1

执行摘要

更新 NPU 卸载文档,明确 sharded_gpu 模式仅支持 tp=1 dp>1 配置。

从 PR 标题和 commit 信息推断,动机是更新 NPU 相关的卸载文档。具体而言,需要澄清 --offload-mode 参数中 sharded_gpu 选项的适用配置,确保文档准确反映功能限制,防止用户在错误的并行配置下使用该模式。

该 PR 变更简单,仅涉及一行文档更新,无需深入精读。对于关注 NPU 卸载功能或并行配置的开发者,可留意 sharded_gpu 模式的限制说明,但无复杂设计决策需要关注。

讨论亮点

Review 评论为空,仅有两个由 sglang-npu-bot 执行的自动化批准,表明本次文档更新未引发技术讨论或争议。

实现拆解

  1. 修改文档文件:更新 docs/platforms/ascend/ascend_npu_support_features.md 文件,在 --offload-mode 参数的描述中为 sharded_gpu 选项添加限制说明 (DeepSeek only, only support tp=1 dp>1)
  2. 变更内容:仅修改一行文档,将原有描述从 sharded_gpu (DeepSeek only) 扩展为 sharded_gpu (DeepSeek only, only support tp=1 dp>1),以明确配置约束。
  3. 无配套改动:本次变更仅涉及文档更新,未修改任何源码、测试、配置或部署文件。
文件 模块 状态 重要度
docs/platforms/ascend/ascend_npu_support_features.md 平台文档 modified 1.32

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

技术风险极低

  • 回归风险:无,仅修改文档说明,不影响任何代码逻辑。
  • 性能风险:无,不涉及运行时行为。
  • 安全风险:无,不引入新代码或配置。
  • 兼容性风险:无,文档更新不改变系统行为。
    潜在风险:如果文档说明本身不准确或过时,可能误导用户,但本次变更旨在提高准确性。

影响范围

  • 用户影响:使用 Ascend NPU 平台并配置 --offload-mode=sharded_gpu 的用户,现在能明确知道该模式仅适用于 tp=1 dp>1 的并行配置,避免配置错误。
  • 系统影响:无,文档变更不改变系统功能。
  • 团队影响:维护团队需确保文档与代码实现保持一致,本次更新有助于减少用户支持负担。
    影响程度:低,仅文档澄清。
文档准确性

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论