修复 KDA 中段 checkpoint 挤占 prefix cache 淘汰热前缀
值得精读,但重点不在改动规模,而在三处设计取舍: 1. 看 `MambaManager._cache_partial_tail_block` 的必填参数设计——把 retention 策略从隐式状态提升为强制显式契约,是这类“静默退化”问题值得复用的防回归模式; 2. 看短路分支为何要在 `return None` 之前调用 `_maybe_evict_cached_block`——理解“slot 被 checkpoint state 覆盖前必须摘掉旧 hash”这一不变量,以及用私有 API 替代 `evict_blocks` 的取舍; 3. 看 `test_transient_checkpoint_evicts_retained_boundary_hash` 如何把 checkpoint slot 与 shared-prefix 边界块强行重合,这是一个容易被漏掉的交叉场景。 审阅建议:如果所在团队使用 Mamba/KDA 混合模型并配置了 latest-only 保留,建议在本 PR 之后补一轮模型级 hybrid KDA 工作负载的前缀命中率与 ITL 回归;对 `num_tokens` 语义敏感的 chunked prefill / resume 路径,建议额外构造 sibling 复用用例确认例外条件覆盖充分。