Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

nixl 相关 PR

2026-09-15
缺陷修复 重要性 8.60 洞察度 7.00

NIXL 多句柄传输竞态修复:失败上报与块失效延后

值得精读。重点看三处:(1) `base_worker.py` 的失败记账模型与 `_try_release_xfer_handle` 的「释放失败即保留句柄」语义,这是整个修复成立的基础;(2) `get_transfer_results` 中失败上报、block 失效、pending notif 撤回三件事被合并到同一次 `done_recving` 循环,理解这一时序才能评估后续改动;(3) push 侧 `done_pushing - failed_pushing` 加 `_recving_metadata` 过滤的双重条件,以及由 njhill 内联建议触发、随后被作者修正的 `pull_worker` 判空回归。评审阅读时建议顺带确认是否有超时兜底来覆盖「句柄永不终态」的情况,以及 HMA 的 TODO 是否有后续跟进项。

2026-08-25
缺陷修复 重要性 5.94 洞察度 5.10

修复 NIXL Mamba prefill 截断时序问题

该 PR 值得精读,特别是对于理解 KV 连接器中请求生命周期管理(截断时机与调度器交互)有参考价值。建议关注 _p_side_truncated 标记的设计和幂等性保证,这有助于类似时序问题的修复。同时,应跟进 MooncakeConnector 的 follow-up。

2026-04-16
缺陷修复 重要性 5.82 洞察度 5.00

修复NIXL连接器中非Mamba模型远程逻辑块ID到内核块ID的转换缺失问题。

该PR值得精读,因为它展示了一个典型的重构后遗症修复案例。关注点包括:1) 如何在`_read_blocks_for_req`方法中通过`self._has_mamba`分支区分Mamba与非Mamba路径的块ID转换逻辑;2) review中关于使用本地vs远程比率的讨论,这反映了分布式系统中异构部署的设计权衡;3) 参数化测试如何同时验证两种模型类型的转换正确性。