执行摘要

• 一句话：引入内存池配置器类层次，统一接口并修复hybrid SWA内存计算问题。
• 推荐动作：该PR值得精读，特别是关注MemoryPoolConfigurator的类层次设计、统一coeff+bias接口的决策，以及hybrid SWA cell size修复的逻辑，这些对于理解SGLang内存管理演进有重要价值。

功能与动机

根据PR body，这是对#22384的跟进，旨在统一内存池配置接口，解决现有问题，如hybrid SWA中--max-total-tokens约束错误导致内存预算错误分配。通过类层次抽象，简化配置逻辑，并为未来扩展（如Mamba配置器）奠定基础。

实现拆解

实现包括：1）在pool_configurator.py中新增MemoryPoolConfigurator基类，提供calculate_pool_sizes和calculate_pool_sizes_from_max_tokens统一接口，并添加DefaultPoolConfigurator（处理MHA/MLA/NSA/FP4）和HybridSWAPoolConfigurator（处理Gemma2/Command-R/MiMo等hybrid SWA模型）；2）将MemoryPoolConfig类从model_runner_kv_cache_mixin.py移至pool_configurator.py；3）重构model_runner_kv_cache_mixin.py，删除profile_max_num_token等方法，使用新配置器；4）更新tp_worker.py和model_runner.py中的导入路径以引用新模块。

关键文件：

• python/sglang/srt/model_executor/pool_configurator.py（模块 内存池配置）: 新增内存池配置器类层次和核心逻辑，统一接口并修复计算问题。
• python/sglang/srt/model_executor/model_runner_kv_cache_mixin.py（模块 KV缓存管理）: 大幅重构，移除旧配置方法，集成新配置器流，影响KV缓存管理。

关键符号：MemoryPoolConfigurator.calculate_pool_sizes, MemoryPoolConfigurator.calculate_pool_sizes_from_max_tokens, create_memory_pool_configurator, DefaultPoolConfigurator._cell_size, HybridSWAPoolConfigurator._cell_size

评论区精华

review中主要讨论了实现细节：ispobock指出在pool_configurator.py第180行可以重用align_page_size函数以简化代码，并在第225行提醒cell size可能为float需要类型转换；作者hnyls2002回复cell size是等效值，允许为float。讨论已解决，代码相应调整，突出了对正确性和代码风格的关注。

• 页面对齐重用 (design): 可能已采纳，代码未在提供材料中显示具体修改，但讨论指向优化。
• cell size类型转换 (correctness): 保持cell size为float，以支持精确计算，后续提交中可能处理了类型问题。

风险与影响

• 风险：风险包括：1）回归错误：重构核心内存池配置逻辑可能引入计算错误，特别是在hybrid SWA的cell size公式调整中；2）性能影响：新配置器可能改变内存分配行为，影响推理性能；3）兼容性问题：MemoryPoolConfig的max_running_requests字段改为Optional，消费者代码需适配。关键文件pool_configurator.py中的计算逻辑需仔细验证。
• 影响：影响范围涉及所有使用KV缓存的模型，特别是hybrid SWA架构（如Gemma2、Command-R），修复了内存约束错误；系统层面，内存管理更统一，可维护性提升；团队需更新对配置接口的理解，用户可能需要重新测试内存相关配置。
• 风险标记：核心路径变更, 接口变更风险

关联脉络

• PR #22420 [Test] Add CPU unit tests for MemoryPoolConfigurator: 直接测试本PR引入的MemoryPoolConfigurator类，验证其逻辑正确性。
• PR #22384 上下文未提供，但PR body提及为跟进: PR body中提及本PR是对#22384的跟进，表明这是功能演进的一部分。