#54295 [Perf][MLA Sparse] Pin req_id_per_token before non_blocking H2D on XPU and ROCm
原始 PR · 作者 JasonKeyiL · 合并时间 2026-08-29 10:00
为 XPU 和 ROCm 的 MLA 稀疏元数据路径固定 H2D 拷贝源,避免 host 阻塞。
该 PR 简单且安全,值得快速合入。可作为理解 vLLM 中非阻塞 H2D 拷贝和 pinned 内存重要性的参考。后续可关注是否跟进将 XPU/ROCm 收敛到 GPU 端构建路径的重构,以彻底消除 numpy 管道。