Mooncake 改用全局 DP 索引,修复 wide-TP 崩溃
值得精读。该 PR 对理解 vLLM 并行配置中 `data_parallel_index`、`data_parallel_rank`、`data_parallel_rank_local` 三个字段的语义差异有直接帮助:`data_parallel_index` 是全局稳定的引擎标识,`data_parallel_rank_local` 只在部分启动路径填充,而 `data_parallel_rank` 在 dense-model DP 下会被重置为 0。对维护 KV connector 或分布式启动链路的工程师,这是一个"小改动、大修复"的典型示例,展示了"节点本地相对标识"与"全局唯一标识"在分布式寻址中的选择原则。
参与讨论