Prhub

#23329 Add IntraNode NVLink configration in PD disaggregation docs

原始 PR 作者 TTThanos 合并时间 2026-05-14 14:23 文件变更 2 提交数 4 评论 8 代码增减 +12 / -0

执行摘要

新增 Intra-Node NVLink 配置文档

为了让用户了解如何利用 Intra-Node NVLink 进行 KV 缓存传输(推荐用于 A100、H20、H100 等),需在文档中补充对应的环境变量配置说明。PR body 提到用户可以通过设置 SGLANG_MOONCAKE_CUSTOM_MEM_POOL=INTRA_NODE_NVLINKMC_INTRANODE_NVLINK=true 启动服务器。

简单的文档更新,值得阅读以了解新配置选项。

讨论亮点

reviewer stmatengss 指出拼写错误 awared 应为 awarded,作者已修复。其他讨论包括确认该功能在 Docker 镜像中不可用,需要从源码编译 Mooncake 并启用 IntraNode NVLink cmake 标志。

实现拆解

  1. 修改 docs/advanced_features/pd_disaggregation.md:在第 133 行之后新增一段配置说明,包含环境变量设置和注意事项。
  2. 修改 docs_new/docs/advanced_features/pd_disaggregation.mdx:在相同位置添加相同内容,保持新旧文档同步。
  3. 修复拼写错误:应 reviewer 要求将 awared 改为 awarded
  4. 解决冲突:合并 main 分支后解决冲突。
文件 模块 状态 重要度
docs_new/docs/advanced_features/pd_disaggregation.mdx 文档 modified 2.73
docs/advanced_features/pd_disaggregation.md 文档 modified 2.03

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

拼写错误修复 style

stmatengss 指出 `awared` 应为 `awarded`。

结论:作者已修复。 · 已解决

Docker 镜像可用性 question

315930399 询问该功能在 Docker 镜像中是否可用。

结论:作者确认不可用,需从源码编译 Mooncake。 · 已解决

风险与影响

该 PR 仅为文档变更,无技术风险。

影响用户:提供正确配置方法,提升使用体验。影响系统:无。影响范围小。

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论