执行摘要

• 一句话：泛化混合 SWA MTP 草稿池路由，去除架构特定判断。
• 推荐动作：该 PR 值得精读，尤其是 kv_cache_configurator.py 中的泛化条件重构，展示了如何将架构特定逻辑提炼为通用元数据驱动的模式。建议关注 is_hybrid_swa_mtp_draft 与 draft_swa_full_capacity 的判定逻辑，以及 pool_configurator.py 中如何从 mtp_local_layer_ids 推导 _draft_swa_full_layers_num。后续应补充针对非 Inkling 混合 SWA 模型的专用测试。

功能与动机

PR body 指出：多层级草稿 KV 池原本仅针对 Inkling 架构进行选路，但其他混合 SWA 模型可能具有相同的逐深度注意力模式，应使用相同的 SWA/Full 池路由与内存核算。因此需要从通用配置器状态而非架构名称出发，泛化该逻辑。

实现拆解

实现拆解如下：

1. 泛化判断条件（kv_cache_configurator.py）：将 is_inkling_mtp_draft 重命名为 is_hybrid_swa_mtp_draft，其判定条件从检查架构名 InklingForConditionalGenerationMTP 改为检查 is_hybrid_swa 标志与 hf_text_config.mtp_local_layer_ids 是否存在。相应地，draft_swa_full_capacity 的判定从检查 draft_model_idx 是否在 mtp_local_layer_ids 集合中，改为检查 draft_model_idx 是否在 swa_attention_layer_ids 列表中。
2. 泛化草稿层路由（pool_configurator.py）：在 ModelScheduler 相关逻辑（位于 model_executor/pool_configurator.py）中，移除对 InklingForConditionalGeneration 架构名的硬编码分支，改为从 model_config.hf_text_config 中读取 mtp_local_layer_ids，若存在则基于该元数据计算 _draft_swa_full_layers_num，否则回退到原有的 eagle_draft_swa_num_layers 逻辑。
3. 更新内部引用：将 kv_cache_configurator.py 中所有 is_inkling_mtp_draft 的引用更新为 is_hybrid_swa_mtp_draft，包括 _init_pools 与 _build_hybrid_swa_kv_pool 中的逻辑，并按新泛化条件处理 SWA/Full 注意力层 ID 的选路与内存核算。
4. 简化注释：将描述 Inkling 特定行为的注释替换为通用描述。
   测试配套：本 PR 未新增或修改测试文件，但 PR body 提到上游相关单测（test_pool_configurator.py 与 test_mamba_donated_alloc_ratio.py）均通过。

关键文件：

• python/sglang/srt/mem_cache/kv_cache_configurator.py（模块 缓存配置；类别 source；类型 core-logic；符号 is_hybrid_swa_mtp_draft, draft_swa_full_capacity）: 核心配置逻辑，泛化草稿池路由条件，影响所有混合 SWA MTP 模型的池配置。
• python/sglang/srt/model_executor/pool_configurator.py（模块 池配置；类别 source；类型 data-contract；符号 _draft_swa_full_layers_num）: 草案池层分配逻辑，从架构名分支改为基于 mtp_local_layer_ids 的通用计算。

关键符号：KVCacheConfigurator.post_init, KVCacheConfigurator._init_pools, KVCacheConfigurator._build_hybrid_swa_kv_pool, PoolConfigurator.init

关键源码片段

python/sglang/srt/mem_cache/kv_cache_configurator.py

核心配置逻辑，泛化草稿池路由条件，影响所有混合 SWA MTP 模型的池配置。

def __post_init__(self) -> None:
    self.mambaish_config = mambaish_config(self.model_config)
    self.hybrid_gdn_config = hybrid_gdn_config(self.model_config)
​
    # 泛化：不再检查架构名，而是依赖模型配置中的混合 SWA 标志与逐层元数据
    self.is_hybrid_swa_mtp_draft = (
        self.is_draft_worker
        and self.draft_model_idx is not None
        and self.is_hybrid_swa
        and getattr(self.model_config.hf_text_config, "mtp_local_layer_ids", None)
        is not None
    )
​
    # 草稿层是否应路由到全容量 SWA 环：依据注意力层元数据而非架构内嵌集合
    self.draft_swa_full_capacity = self.is_hybrid_swa_mtp_draft and (
        self.draft_model_idx in self.model_config.swa_attention_layer_ids
    )

评论区精华

无 review 评论。仅有 Issue 评论中 Qiaolin-Yu 请求 rerun 两个 e2e 测试，以及作者询问是否可以合并。未记录实质性的技术讨论。

• 暂无高价值评论线程

风险与影响

• 风险：该变更涉及 KV 池路由与内存核算的核心逻辑，风险点包括：
  1) 对非 Inkling 的混合 SWA 模型，如果 mtp_local_layer_ids 与 swa_attention_layer_ids 的语义不完全一致，可能导致池配置错误，引发内存分配不足或越界。
  2) 泛化后 draft_swa_full_capacity 的判定依赖 swa_attention_layer_ids 列表，其与 mtp_local_layer_ids 的对应关系需验证，若二者不完全一致可能误判。
  3) 虽然运行了上游相关单测，但缺少针对本泛化逻辑的专用测试，回归覆盖不足。
  • 影响：影响范围：主要影响使用混合 SWA 架构且启用 MTP 推断的模型（如 Inkling 及类似架构）的 KV 缓存分配与路由。对现有 Inkling 模型而言，由于元数据语义相近，行为应保持一致；对其他混合 SWA 模型，将首次获得正确的草稿池路由。团队协作上，改动引入新命名与逻辑，需要下游代码同步引用，但影响面限于配置器内部。
  • 风险标记：核心路径变更, 缺少测试覆盖

关联脉络

• PR #35377 [Spec] Avoid tensor scalar reads in spec decode allocation: 同为 Speculative Decoding 相关优化，修改了 mem_cache/allocation.py，与本次变更共同影响草稿解码的 KV 缓存分配路径。