#53698 [Bugfix][ROCm][Disagg] Fix MoRIIO shared KV memory region registration
原始 PR · 作者 avininjamay8 · 合并时间 2026-08-27 00:10
修复 MoRIIO 共享 KV 内存区注册回归,GSM8K 0→96.8%
值得精读。该 PR 展示了共享 KV backing 布局(#51718)对下游 RDMA 注册的连锁影响,以及页对齐、单一内存区 vs 按层内存区、per-layer 偏移缓存等工程决策。建议重点关注 `_build_shared_kv_mr` 的负偏移越界问题是否在后续版本跟进修复,并留意 `allocate_kv_cache` 页对齐对非 MoRIIO 后端的潜在影响。
参与讨论