重构 NIXL 连接器为计划驱动传输设计
建议所有参与 kv-connector 的工程师精读此 PR。尤其是: - `tp_mapping.py` 中的 TP 映射计算逻辑,是理解异构 TP 下 KV 缓存传输的关键。 - `worker.py` 中基于 plan 的静态方法,体现了如何通过预计算简化热路径的设计模式。 - 关注 NickLucche 和 ZhanqiuHu 的讨论,理解抽象与直接的权衡。 - 对于测试,`test_tp_mapping.py` 和 `test_nixl_connector_hma.py` 的测试模式值得借鉴。
参与讨论