Prhub

#34654 [Docs] Add decode context parallelism to advanced features

原始 PR 作者 kpham-sgl 合并时间 2026-08-14 04:51 文件变更 4 提交数 4 评论 1 代码增减 +205 / -0

执行摘要

新增 DCP 高级功能文档页并登记导航与参数

PR body 说明目的是在 Advanced Features 下新增 DCP 页面,覆盖 MLA KV 条带化、LSE 合并、通信后端以及与 DPA、DSpark、PD、HiCache L2 的组合,并登记侧边栏、概述页和三个新 server 参数。文档化填补了用户启用 DCP 时的操作指南空白,属于功能实现后的配套文档补齐。

值得对 DCP 感兴趣的架构与推理团队精读,尤其是拓扑约束、LSE 合并与通信后端对比部分;对运维而言可直接复制命令示例。需要留意页面警告的启动检查缺口,文档描述的约束强于当前代码校验,建议后续在实现中补齐。

讨论亮点

该 PR 没有人工 review 评论;唯一外部交互是 mintlify[bot] 生成的预览部署通知(lmsysorg docs preview)。设计取舍主要通过 4 次提交历史表达:初稿包含成本公式与测试清单,随后裁剪为 operator 向内容;投机解码段落改写为“draft KV 全量复制 + DCP 感知 MLA kernel”的描述;最终移除 tokenspeed_mla 并指向 DCP/Helix 追踪 issue。

实现拆解

1. 新增 DCP 主文档页

docs/docs/advanced_features/dcp.mdx 新增约 180 行内容:先介绍 DCP 的条带化模型(owner(p) = p mod c)和 LSE 精确合并原理,再给出启用参数表、拓扑约束、命令行示例,随后展开虚拟 KV 布局、MLA decode 数据流、Q 投影复制和四种通信后端对比,最后说明与投机解码、PD 分解、DPA、HiCache 的组合规则。

2. 注册导航与重定向

docs/docs.json 添加 /advanced_features/dcp.html/docs/advanced_features/dcp 的重定向,并在 Advanced Features 侧边栏 quantized_kv_cacheexpert_parallelism 之间插入 docs/advanced_features/dcp 条目,保证旧 URL 能跳转且新页面可导航。

3. 补充 server 参数文档

docs/docs/advanced_features/server_arguments.mdx 新增三行表格对应 --dcp-size(含别名 --decode-context-parallel-size)、--dcp-comm-backendag_rsa2afi_a2a)和 --dcp-replicate-q-proj,并给出默认值和取值说明;同时在概览章节加入入口提示。

4. 更新 overview 页面

docs/docs/advanced_features/overview.mdx 在 Expert Parallelism 与 LoRA 之间加入 Decode Context Parallelism 链接一行业。

5. 提交演进与校验

4 次提交依次完成初稿、裁剪为操作员向内容、澄清投机解码段(删除 DSpark 术语)、删除 tokenspeed_mla 并链接 DCP/Helix 追踪 issue;PR 使用 mint validate 校验,并由 Mintlify 生成预览。

文件 模块 状态 重要度
docs/docs/advanced_features/dcp.mdx 文档站 added 5.86
docs/docs.json 站点配置 modified 3.52
docs/docs/advanced_features/server_arguments.mdx 文档站 modified 3.34
docs/docs/advanced_features/overview.mdx 文档站 modified 2.0

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

主要风险不是运行时回归,而是文档与实现的同步:页面临时警告启动检查只校验 tp_size % dcp_size == 0,比文档要求的“DCP 组嵌套在 attention-TP/DP 副本内”弱,用户按 DPA+DCP 组合部署时可能遇到未被启动期拦截的坏拓扑;--dcp-comm-backend 选择、Kimi K3 默认行为、cutedsl_mla 后端等描述依赖实现演进,容易过时;页面中 mermaid 图和内部链接(DPA、PD、HiCache、Kimi K3 cookbook)缺少自动化校验,改路径后可能 404。纯文档变更,不涉及代码回归、性能或安全面。

对用户:DCP 从此有官方操作文档,包含示例配置、拓扑约束和组合矩阵,可显著降低 MLA 长上下文部署的试错成本。对系统与代码:无任何运行时文件改动,服务行为不变。对团队:新增一个需要随 DCP 实现一起维护的文档页面,后续功能演进(如 Helix 追踪项落地、启动期强校验)需同步刷新。

文档与实现同步风险 启动检查弱于文档约束 链接缺少自动化校验

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论