Prhub

#37164 [mem_cache] Move mamba state and `retraction_backup` into `ReqKvInfo`

原始 PR 作者 hnyls2002 合并时间 2026-08-31 13:03 文件变更 30 提交数 6 评论 1 代码增减 +375 / -410

执行摘要

实现拆解

  1. 核心源码路径
    - python/sglang/srt/managers/schedule_batch.py(core-logic):源码主路径;涉及符号 is_held, holds_kv, is_released, holds_mamba;包含 控制流调整、配置键调整、符号定义调整;+79/-65;关键符号:is_held, holds_kv, is_released, holds_mamba
    - python/sglang/srt/session/streaming_session.py(core-logic):源码主路径;包含 控制流调整、配置键调整;+23/-62
    - python/sglang/srt/managers/scheduler_components/batch_result_processor.py(core-logic):源码主路径;包含 控制流调整、配置键调整;+21/-21

  2. 测试与验证
    - test/registered/unit/hardware_backend/mlx/test_attention_patching.py(test-coverage):测试配套;包含 测试覆盖调整、导入关系调整、配置键调整;+33/-33
    - test/registered/unit/mem_cache/test_unified_radix_cache_unittest.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+46/-46
    - test/registered/unit/mem_cache/test_mamba_unittest.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+17/-17

文件 模块 状态 重要度
python/sglang/srt/managers/schedule_batch.py sglang/srt modified 8.69
python/sglang/srt/session/streaming_session.py sglang/srt modified 6.92
python/sglang/srt/managers/scheduler_components/batch_result_processor.py sglang/srt modified 6.88
python/sglang/srt/hardware_backend/mlx/kv_cache/auxiliary_state.py sglang/srt modified 6.71
python/sglang/srt/mem_cache/memory_pool.py sglang/srt modified 6.66

关键符号

is_held holds_kv is_released holds_mamba is_kv_released mark_released mark_kv_released

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论