Prhub

#33612 Remove custom all-reduce disable from Kimi-K3 B300 recipe

原始 PR 作者 Fridge003 合并时间 2026-08-05 07:07 文件变更 1 提交数 1 评论 0 代码增减 +0 / -1

执行摘要

Kimi-K3 B300 配方移除 all-reduce 禁用

PR body 指出:The B300 Balanced cell still carried an explicit custom all-reduce opt-out, so the generated deployment command disabled that path for this recipe. 即 B300 Balanced 配方仍然显式携带 custom all-reduce 的退出开关,导致生成的部署命令禁用了该路径。本 PR 旨在让选中的命令(包括 DSPARK + HiCache off 组合)使用默认的 custom all-reduce 路径。

该 PR 不值得精读,属于文档配置示例的单行修正。可简单了解 Kimi-K3 部署配方的演进,以及 custom all-reduce / fused all-reduce auto-probe 在 B300 场景下的取舍;若关注 DSPARK、HiCache off 组合下的 all-reduce 行为,可结合相关运行时 PR 一起看。

讨论亮点

本 PR 没有 review 评论或讨论线程,决策与验证均由作者 Fridge003 独立完成。从 body 看,作者明确声明影响范围仅限 B300 Unified + Balanced 单元,并指明其他 B300 策略与 PD 配方保持不变。

实现拆解

  1. 定位变更入口:docs/src/snippets/configs/moonshotai/kimi-k3.jsx 中的 B300 Unified + Balanced 配置单元(match: { hw: "b300", pdMode: "unified", strategy: "balanced" })。
  2. 删除 flags 数组中的 --disable-custom-all-reduce 一项(+0/-1)。这是本次唯一改动,没有新增或修改其他逻辑。
  3. 保持其他单元不变:B300 Unified 的 low-latency 和 high-throughput 单元以及其余 PD 配方均未改动;high-throughput 单元仍保留 --disable-custom-all-reduce
  4. 验证配套:PR body 提到对该 hw=b300, pdMode=unified, strategy=balanced, spec=dspark, hicache=off 命令组合做了 Node 断言,并运行了 mint validatemint broken-links 以及仓库 pre-commit hooks;但本次提交没有附带测试文件变更,相关断言可能位于文档工具链内部。
文件 模块 状态 重要度
docs/src/snippets/configs/moonshotai/kimi-k3.jsx 文档片段 modified 3.38

关键源码片段

docs/src/snippets/configs/moonshotai/kimi-k3.jsx configuration

这是本次唯一变更文件,删除了 B300 Unified + Balanced 配方中的 `--disable-custom-all-reduce`,直接影响该配方生成部署命令的内容。

// docs/src/snippets/configs/moonshotai/kimi-k3.jsx
// B300 Unified + Balanced 配方:删除 `--disable-custom-all-reduce`,
// 让 DSPARK + HiCache off 组合走默认 custom all-reduce 路径。
{
  match: { hw: "b300", pdMode: "unified", strategy: "balanced" },
  nnodes: 1,
  verified: false,
  verificationStatus: "in-progress",
  env: [],
  flags: [
    "--trust-remote-code",
    "--model-path {{MODEL_NAME}}",
    "--tp-size 8",
    "--dcp-size 8",
    // 注意:high-throughput 单元仍保留 `--disable-custom-all-reduce`
    "--mem-fraction-static 0.85",
    "--reasoning-parser kimi_k3",
    "--tool-call-parser kimi_k3",
    "--host {{HOST_IP}}",
    "--port {{PORT}}",
  ],
}

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

这是文档/配置示例变更,运行时代码未改动,整体风险低。但需注意:影响用户生成的部署命令,使用该配方时命令将不再禁用 custom all-reduce,DSPARK + HiCache off 场景将走默认 custom all-reduce 路径;若该路径在 B300、DSPARK 组合下存在未覆盖的稳定性问题,可能需要回退。另外,high-throughput 单元仍保留 --disable-custom-all-reduce,说明在大规模场景该开关仍被视为必要;移除 balanced 的开关后,两条策略的行为将不一致,建议后续观察线上表现。无直接测试文件变更,验证依赖文档工具链与 Node 断言,覆盖面有限。

影响范围小:仅影响文档中 B300 Unified + Balanced 配方生成的部署命令,用户复制该 recipe 时不再出现 --disable-custom-all-reduce,行为上将启用默认的 custom all-reduce 路径。对系统运行时代码无影响。对团队而言,是一次文档一致性修正,消除了配方与实际期望行为之间的不一致。

文档示例变更 影响部署命令生成 无直接测试文件

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论