Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

pcp 相关 PR

2026-09-10
缺陷修复 重要性 6.23 洞察度 6.00

NIXL 复制 PCP 下改为全体 rank 上报发送完成,修复预填充停滞

值得精读,尤其适合正在做解耦服务、PCP 或 KV connector 组合的工程师。建议重点关注三点:(1) 为什么 `get_finished_count()` 返回 None 就等于 world_size,以及它与 MultiConnector “任一子连接器返回 None 则整体返回 None” 的耦合;(2) 「立即 ack 代替真实传输」这种补偿式实现如何在 AND 聚合下保持完成时刻不变;(3) 评审把状态从 connector 下沉到 worker 的取舍——connector 保持无角色分支,便于 scheduler 与 worker 走同一套逻辑。同时建议在合入后补上 body 中承诺的 E2E 基准(GLM-5.2-FP8 PCP8 + MultiConnector,并发 16/32/64),并确认 rank > 0 重复上报在聚合侧是否幂等。