#30756 Integrate pplx a2a backend
原始 PR · 作者 trangdough · 合并时间 2026-07-31 06:33
功能
重要性 9.18
洞察度 6.00
集成 pplx-kernels 作为新的 MoE all-to-all 后端
- 此 PR 值得精读，特别是 `pplx.py` 中 `PplxAllToAllManager` 如何管理 NVSHMEM 和 c10d 组生命周期，以及如何适配 `BaseDispatcher` 接口。 - 注意 `server_args.py` 中的启动校验（见关键源码片段）是处理第三方后端集成的典范，包括模式自动降级（auto→low_latency）和提前断言失败。 - `dp_attention.py` 中强制 `MAX_LEN` 的修复也是一个重要的设计决策——对称集合通信要求所有 rank 一致 token 数。