执行摘要

• 一句话：OffloadingConnector 调度器支持滑动窗口和 Mamba KV 缓存组
• 推荐动作：建议有相关背景的开发者精读本 PR，重点关注滑动窗口块的生命周期设计、_touch 的 LRU 更新策略，以及 _remove_pending_job 的安全性讨论。非直接涉及 KV offload 的成员可略读了解架构演化。

功能与动机

为了支持滑动窗口注意力和 Mamba 等非全注意力模型的 KV 缓存 offloading，需要调度器侧能够识别这些模型的缓存特征。本 PR 解决了调度器目前仅支持全注意力（FullAttentionSpec）的局限，通过泛化 KVCacheSpec 和引入滑动窗口相关逻辑，使调度器可以正确处理滑动窗口和 Mamba 的缓存块边界及生命周期。Issue 未提及，但从 PR 标题 [kv_offload+HMA][12/N] 可以看出这是系列工作中的一环，最终目标是使 OffloadingConnector 支持 HMA（异构内存访问）特性。

实现拆解

1. 导入新类型：从 vllm.v1.kv_cache_interface 导入 FullAttentionSpec、SlidingWindowSpec、MambaSpec，替换原有的 KVCacheSpec 导入，为后续基于类型判断滑动窗口大小做准备。
2. 实现 get_sliding_window_size_in_blocks：根据 spec 类型计算窗口覆盖的 offloaded 块数（全注意力返回 None，滑动窗口返回 ceiling 除法，Mamba 返回 1）。
3. 扩展 GroupOffloadConfig：在 NamedTuple 中新增 sliding_window_size_in_blocks 字段，在 SchedulerOffloadConfig.from_spec 中动态计算该值。
4. 拆分 TransferJobStatus.gpu_block_ids：拆为 non_sliding_window_block_ids 和 sliding_window_block_ids，前者仅在请求结束时注册 pending jobs，后者在 store 创建时立即注册，以支持滑动窗口块的提前回收。
5. 新增命中计数：RequestGroupState 增加 num_hit_blocks，由 update_num_hit_blocks 初始化，用于查找决策。
6. 重写查找逻辑：增加 _sliding_window_lookup、_touch、_sliding_window_sort_key、_remove_pending_job 等方法，处理后缀匹配的滑动窗口查找和 LRU 更新。
7. 调整清理路径：_on_request_finished 等适配新数据结构。
8. 测试配套：本 PR 未包含测试文件，将在下个 PR 随 SupportsHMA 一起添加。

关键文件：

• vllm/distributed/kv_transfer/kv_connector/v1/offloading/scheduler.py（模块 KV 调度器；类别 source；类型 core-logic；符号 get_sliding_window_size_in_blocks, update_num_hit_blocks, _sliding_window_sort_key, _remove_pending_job）: 本 PR 唯一变更的文件，集中实现了滑动窗口和 Mamba 支持所需的全部调度器侧逻辑，包括数据结构重构、查找算法重写和生命周期管理。

关键符号：get_sliding_window_size_in_blocks, update_num_hit_blocks, _sliding_window_sort_key, _remove_pending_job, _touch, _lookup

评论区精华

_remove_pending_job 安全性：Gemini Code Assist 建议使用 .get() 和 .discard() 避免 KeyError。作者 orozery 回应认为不可能，宁愿捕获异常而非忽略。该讨论未改变代码。
FullAttentionSpec 命名确认：markmc 询问注释中应为 FullAttentionSpec 而非其他，作者确认，已解决。
_touch 收敛性：markmc 对排序和病态迭代提出疑问，orozery 解释与 HybridKVCacheCoordinator 类似，排序按组大小递减有助于收敛，已解决。

• _remove_pending_job 使用 .get() .discard() 安全性建议 (correctness): 作者认为该情况不可能发生，宁愿捕获异常而不忽略。
• FullAttentionSpec 名称确认 (question): 作者确认，注释已修正。
• _touch 排序与收敛性解释 (design): 作者解释与 HybridKVCacheCoordinator 类似，排序按组大小递减有助于收敛。

风险与影响

• 风险：
  • _remove_pending_job 使用直接字典/集合访问，若状态同步意外（如重复完成事件）可能抛出 KeyError，作者认为不可能但仍是潜在薄弱点。
  • 滑动窗口块与非滑动窗口块的生命周期管理较复杂，初始化或清理逻辑有误可能导致引用计数错误或内存泄漏。
  • _touch 的排序依赖组配置，极端情况下可能性能退化。
  • 本 PR 仅修改调度器侧，尚未与 Worker 侧 SupportsHMA 集成，中间状态可能导致不一致。
• 影响：
  • 用户影响：无直接可见变更，需等待后续 SupportsHMA 集成。
  • 系统影响：核心调度器数据结构与算法重构，可能影响所有 KV 传输作业的稳定性。
  • 团队影响：作为 12/N 系列的一部分，后续 PR 将直接依赖此变更，需要保持同步。
  • 风险标记：缺少测试覆盖, 核心数据结构变更, 滑动窗口块生命周期风险

关联脉络

• PR #41361 [KV Offload] Use Collection instead of Sequence/Iterable for OffloadingManager key parameters: 同一 KV Offload 功能线，本 PR 基于该 PR 中的 OffloadingManager 接口，且同属 kv_offload 模块。