Prhub

#26774 [NPU][Docs] Kimi-K2.5 best practice

原始 PR 作者 litmei 合并时间 2026-06-02 13:14 文件变更 2 提交数 5 评论 1 代码增减 +234 / -4

执行摘要

为 NPU 添加 Kimi-K2.5 最佳实践文档

PR body 明确指出:'Add best practice for Kimi-K2.5-w4a8 on NPU platform.' 通过标准化配置表格和可复用的示例命令,降低用户在 Ascend NPU 上部署 Kimi-K2.5 的试错成本。

建议阅读,尤其是计划在 Ascend NPU 上部署 Kimi-K2.5 的团队。文档中的配置参数虽有待验证,但整体框架有价值。

讨论亮点

review 中 gemini-code-assist[bot] 指出文档表格和标题写 "8 cards",但示例命令中使用 --tp-size 16,存在矛盾;同时建议移除冗余的 transformers 安装命令。这些反馈未被采纳(PR 已合并),当前文档仍存在不一致性。

实现拆解

  1. ascend_npu_best_practice.mdx 中新增 "Kimi Series Models" 章节,包含低延迟和高吞吐两个配置表格,并添加指向具体示例锚点的链接。
  2. ascend_npu_kimi_k2.5_examples.mdx 中修正路由器命令的 IP 占位符,将单引号包围的字符串改为尖括号占位符,提高规范性和可读性。
  3. 通过多次提交完成合并与格式修复(lint)。
文件 模块 状态 重要度
docs_new/docs/hardware-platforms/ascend-npus/ascend_npu_best_practice.mdx 文档 modified 5.02
docs_new/docs/hardware-platforms/ascend-npus/ascend_npu_kimi_k2.5_examples.mdx 文档 modified 2.52

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

文档声称 8 cards 但命令使用 16 cards 正确性

reviewer 指出文档表格和标题写 8 cards,但示例命令中使用 --tp-size 16,存在矛盾。同时建议移除冗余的 transformers 安装命令。

结论:PR 作者未回应,bot 已审批通过。该不一致性在后续 PR 中可能需修正。 · unresolved

风险与影响

主要风险是配置参数不一致可能导致用户按文档部署失败;占位符格式改善后有助于减少误解。整体风险低,不涉及代码变更。

对用户:提供明确的 Kimi-K2.5 部署指南,降低配置复杂度。对系统:无代码变更,无影响。

文档与实际命令不一致

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论