执行摘要

• 一句话：修复 HybridLinearKVPool 在 chunked prefix cache 中的类型断言错误
• 推荐动作：该 PR 值得快速合并，修复了一个生产环境可能遇到的崩溃问题，且改动极小（仅 4 行有效代码）。对于团队而言，学到了如何安全地放宽类型约束以支持包装类型。

功能与动机

关闭 Issue #25752：当使用混合模型（如 Bailing-2.6-Flash）时，token_to_kv_pool 的类型是 HybridLinearKVPool 而非 MLATokenToKVPool，导致在长上下文场景下触发 chunked prefix cache 时服务 crash。实际 HybridLinearKVPool 将全注意力 KV 操作委托给内部的 full_kv_pool（类型为 MLATokenToKVPool），而 chunked prefix cache 逻辑仅操作 req_to_token_pool 和 batch metadata，并不访问 token_to_kv_pool，因此原断言过于严格。

实现拆解

1. 放宽类型断言：在 python/sglang/srt/model_executor/forward_batch_deepseek_mha_mixin.py 的 prepare_chunked_prefix_cache_info 方法中，修改 assert isinstance(...) 语句，使其在 token_to_kv_pool 是 HybridLinearKVPool 且其 full_kv_pool 是 MLATokenToKVPool 时也通过断言。
2. 补充导入：新增导入 HybridLinearKVPool，同时保留 MLATokenToKVPool 导入。
3. 移除非必要测试变更：应 reviewer 要求恢复测试文件中对 MLATokenToKVPool 导入的无意义修改。
4. 配套测试（仅 description 提及，实际未在 diff 中提交）：PR body 描述计划添加两个测试用例（test_prefix_chunk_info_with_hybrid_pool 和 test_hybrid_pool_with_non_mla_full_pool_fails），但最终提交中未包含测试文件变更（测试文件仅有一条恢复导入的评论，未实际改动）。

关键文件：

• python/sglang/srt/model_executor/forward_batch_deepseek_mha_mixin.py（模块 模型执行器；类别 source；类型 data-contract；符号 prepare_chunked_prefix_cache_info）: 核心修复文件：放宽了 prepare_chunked_prefix_cache_info 中的类型断言以接受 HybridLinearKVPool。

关键符号：prepare_chunked_prefix_cache_info

关键源码片段

python/sglang/srt/model_executor/forward_batch_deepseek_mha_mixin.py

核心修复文件：放宽了 prepare_chunked_prefix_cache_info 中的类型断言以接受 HybridLinearKVPool。

def prepare_chunked_prefix_cache_info(self, device: torch.device):
    # 之前只接受 MLATokenToKVPool，但混合模型使用 HybridLinearKVPool 包装了一层
    # HybridLinearKVPool.full_kv_pool 仍是 MLATokenToKVPool，并且 chunked prefix cache
    # 逻辑并不直接操作 token_to_kv_pool，因此放宽断言
    from sglang.srt.mem_cache.memory_pool import (
        HybridLinearKVPool,
        MLATokenToKVPool,
    )
​
    assert isinstance(get_token_to_kv_pool(), MLATokenToKVPool) or (
        isinstance(get_token_to_kv_pool(), HybridLinearKVPool)
        and isinstance(get_token_to_kv_pool().full_kv_pool, MLATokenToKVPool)
    ), "Currently chunked prefix cache can only be used by Deepseek models"
​
    # 后续逻辑不变：仅操作 req_to_token_pool 和 batch metadata
    if not any(self.extend_prefix_lens_cpu):
        self.num_prefix_chunks = 0
        return
    # ...

评论区精华

Review 中 Fridge003 指出测试文件 test/manual/attention/test_prefix_chunk_info.py 中不需要修改（No need to change this test），imp2002 立即回复并恢复该文件的 import 行。除此之外无其他实质性讨论。

• 测试文件无意义修改 (style): imp2002 回复 'Done'，实际提交中该行已恢复原样。

风险与影响

• 风险：低风险。变更仅放宽了断言条件，不影响原有 MLATokenToKVPool 路径的逻辑。但需注意：如果未来 HybridLinearKVPool 的 full_kv_pool 属性不再保证是 MLATokenToKVPool（如引入其他全注意力池类型），则断言可能误放过；当前设计已通过 isinstance 检查增加了防护。
• 影响：影响范围限于使用 HybridLinearKVPool 的混合 DeepSeek 模型（如 Bailing-2.6-Flash），使这些模型在长上下文场景下能正常启用 chunked prefix cache。对已有的纯 MLA 模型无影响。
• 风险标记：低风险

关联脉络

• 暂无明显关联 PR