#37164 [mem_cache] Move mamba state and `retraction_backup` into `ReqKvInfo`
实现拆解
-
核心源码路径
-python/sglang/srt/managers/schedule_batch.py(core-logic):源码主路径;涉及符号 is_held, holds_kv, is_released, holds_mamba;包含 控制流调整、配置键调整、符号定义调整;+79/-65;关键符号:is_held, holds_kv, is_released, holds_mamba
-python/sglang/srt/session/streaming_session.py(core-logic):源码主路径;包含 控制流调整、配置键调整;+23/-62
-python/sglang/srt/managers/scheduler_components/batch_result_processor.py(core-logic):源码主路径;包含 控制流调整、配置键调整;+21/-21 -
测试与验证
-test/registered/unit/hardware_backend/mlx/test_attention_patching.py(test-coverage):测试配套;包含 测试覆盖调整、导入关系调整、配置键调整;+33/-33
-test/registered/unit/mem_cache/test_unified_radix_cache_unittest.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+46/-46
-test/registered/unit/mem_cache/test_mamba_unittest.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+17/-17
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
python/sglang/srt/managers/schedule_batch.py |
sglang/srt | modified | 8.69 |
python/sglang/srt/session/streaming_session.py |
sglang/srt | modified | 6.92 |
python/sglang/srt/managers/scheduler_components/batch_result_processor.py |
sglang/srt | modified | 6.88 |
python/sglang/srt/hardware_backend/mlx/kv_cache/auxiliary_state.py |
sglang/srt | modified | 6.71 |
python/sglang/srt/mem_cache/memory_pool.py |
sglang/srt | modified | 6.66 |
分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。
评论区精华
没有提炼出高价值讨论线程
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
风险与影响
关联 Issue
未识别关联 Issue
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论