PR body中明确指出，动机是移除SGLANG_ENABLE_MM_SPLITTING环境变量，使多模态输入分裂默认开启；移除MULTI_IMAGES枚举；每个图像现在作为独立的MultimodalDataItem，具有独立的哈希和pad_value，从而实现每图像RadixAttention缓存。这改善了缓存重用，在部分共享图像前缀场景中缓存命中率从0.0%提升到41.5%，多轮图像场景从0.1%提升到78.1%。
建议技术管理者和工程师精读此PR，重点关注_try_simple_split函数的实现和处理器层的变更，以理解多模态缓存优化设计；同时注意向后兼容性风险和后续ViT优化方向，可作为多模态性能调优的参考案例。
无review评论，变更通过6个commit演进完成：从初始更新到启用分裂、移除枚举、修复问题、改进逻辑，表明迭代开发过程，但未涉及设计争议。
实现方案按模块拆解：1) 环境配置层：在environ.py中移除SGLANG_ENABLE_MM_SPLITTING环境变量；2) 数据结构层：在schedule_batch.py中移除Modality.MULTI_IMAGES枚举，更新MultimodalDataItem类定义；3) 多模态管理器：在mm_utils.py中添加_try_simple_split函数作为回退逻辑，修改pad_input_tokens以处理每图像项；4) 处理器层：在base_processor.py中集成get_new_expanded_mm_items调用，并更新llava.py、internvl.py、minicpm.py等处理器直接创建每图像项；5) 模型层：调整llava.py和minicpmv.py的模型逻辑以适应每图像处理，如新增_infer_image_aspect_ratio函数。
| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
python/sglang/srt/environ.py |
环境配置 | modified | 5.0 |
python/sglang/srt/managers/mm_utils.py |
多模态管理器 | modified | 8.0 |
python/sglang/srt/managers/schedule_batch.py |
调度批处理 | modified | 7.0 |
python/sglang/srt/multimodal/processors/base_processor.py |
多模态处理器 | modified | 7.0 |
python/sglang/srt/models/llava.py |
模型 | modified | 7.0 |
分析完成后，这里会展示 LLM 生成的相对完整源码片段和详细注释。
当前评论区没有形成足够清晰的争议点或结论，后续有更多讨论时会体现在这里。
技术风险具体包括：1) 向后兼容性：移除MULTI_IMAGES枚举可能破坏依赖该枚举的旧代码，如模型检查或第三方集成；2) 分裂逻辑稳健性：_try_simple_split函数依赖特征形状匹配，若模型特征格式异常可能导致分裂失败或缓存错误；3) 性能回归：新缓存逻辑在处理器层分裂可能增加内存开销，且未完全解决ViT冗余计算（如PR body所述），可能影响TTFT；4) 测试覆盖：尽管修改了test_mm_utils.py，但变更涉及多个处理器和模型文件，可能缺乏全面集成测试。
影响范围：用户端：提高多模态请求的缓存命中率，理论上降低首次令牌时间（TTFT），改善响应性能；系统端：优化多模态处理效率，减少KV缓存冗余，但可能因每图像项增多而轻微增加内存管理复杂度；团队端：简化代码结构，移除过时逻辑，促进后续每图像ViT跳过优化（如PR body提到的跟进PR）。影响程度：中等，主要限于多模态模块，但缓存改进可显著提升特定场景性能。
当前没有检测到明确关联的 Issue 链接，后续同步到相关引用后会出现在这里。
PR body中明确指出，动机是移除SGLANG_ENABLE_MM_SPLITTING环境变量，使多模态输入分裂默认开启；移除MULTI_IMAGES枚举；每个图像现在作为独立的MultimodalDataItem，具有独立的哈希和pad_value，从而实现每图像RadixAttention缓存。这改善了缓存重用，在部分共享图像前缀场景中缓存命中率从0.0%提升到41.5%，多轮图像场景从0.1%提升到78.1%。
实现方案按模块拆解：1) 环境配置层：在environ.py中移除SGLANG_ENABLE_MM_SPLITTING环境变量；2) 数据结构层：在schedule_batch.py中移除Modality.MULTI_IMAGES枚举，更新MultimodalDataItem类定义；3) 多模态管理器：在mm_utils.py中添加_try_simple_split函数作为回退逻辑，修改pad_input_tokens以处理每图像项；4) 处理器层：在base_processor.py中集成get_new_expanded_mm_items调用，并更新llava.py、internvl.py、minicpm.py等处理器直接创建每图像项；5) 模型层：调整llava.py和minicpmv.py的模型逻辑以适应每图像处理，如新增_infer_image_aspect_ratio函数。
关键文件：
python/sglang/srt/environ.py（模块 环境配置）: 移除了SGLANG_ENABLE_MM_SPLITTING环境变量，使多模态分裂行为默认开启，简化配置。python/sglang/srt/managers/mm_utils.py（模块 多模态管理器）: 添加_try_simple_split回退函数并修改pad_input_tokens逻辑，是实现每图像分裂和缓存处理的 core 组件。python/sglang/srt/managers/schedule_batch.py（模块 调度批处理）: 移除Modality.MULTI_IMAGES枚举，更新MultimodalDataItem类定义，影响整个多模态数据结构。python/sglang/srt/multimodal/processors/base_processor.py（模块 多模态处理器）: 在process_and_combine_mm_data中集成get_new_expanded_mm_items调用，将分裂逻辑移至处理器层，是变更的关键枢纽。python/sglang/srt/models/llava.py（模块 模型）: 更新LLaVA模型逻辑以处理每图像项，新增_infer_image_aspect_ratio函数，展示模型适配变更。关键符号：pad_input_tokens, get_new_expanded_mm_items, _try_simple_split, _infer_image_aspect_ratio, process_and_combine_mm_data
无review评论，变更通过6个commit演进完成：从初始更新到启用分裂、移除枚举、修复问题、改进逻辑，表明迭代开发过程，但未涉及设计争议。
参与讨论