执行摘要

• 一句话：Mamba chunked prefill 配置警告
• 推荐动作：值得快速合并。代码简洁清晰，定位准确，不引入运行时风险。可作为调试辅助工具帮助用户识别不合理的分块配置。

功能与动机

Nemotron 模型在 chunked_prefill_size=16 的极小分块场景下出现严重失败，根本原因是 chunk 过小时 mamba_track_mask 无法标记状态检查点，导致跨分块衔接错误。Issue 评论确认该配置值是 16 tokens（非 16k），增加警告以辅助捕获此异常组合。

实现拆解

1. 定位校验点：在 python/sglang/srt/server_args.py 的 _validate_mamba_extra_buffer 方法末尾，已有 mamba_cache_chunk_size 非空断言之后插入新校验。
2. 添加条件判断：检查 view.chunked_prefill_size is not None 且 0 < chunked_prefill_size < mamba_cache_chunk_size 时触发日志。
3. 输出警告：使用 logger.warning 打印两条具体数值和语义说明，提示 Mamba 状态检查点可能被跳过。
4. 无行为变更：不抛异常、不修改调度逻辑，仅作诊断输出。

关键文件：

• python/sglang/srt/server_args.py（模块 调度器；类别 source；类型 core-logic；符号 _validate_mamba_extra_buffer）: 唯一变更文件，在 Mamba extra-buffer 校验逻辑中新增条件警告，理解 Mamba 状态管理边界的关键点。

关键符号：_validate_mamba_extra_buffer

关键源码片段

python/sglang/srt/server_args.py

唯一变更文件，在 Mamba extra-buffer 校验逻辑中新增条件警告，理解 Mamba 状态管理边界的关键点。

# python/sglang/srt/server_args.py, _validate_mamba_extra_buffer 方法
# 当 chunked_prefill_size < mamba_cache_chunk_size 时输出警告
if view.page_size is not None:
    assert view.mamba_track_interval % view.page_size == 0
    assert self.mamba_cache_chunk_size is not None
​
    # 新增：提醒用户 chunked_prefill_size 过小会导致 Mamba state checkpoint 被跳过
    if (
        view.chunked_prefill_size is not None
        and 0 < view.chunked_prefill_size < self.mamba_cache_chunk_size
    ):
        logger.warning(
            "Mamba radix extra-buffer is enabled with chunked_prefill_size=%s "
            "smaller than mamba_cache_chunk_size=%s. This can make "
            "mamba_track_mask false for unfinished chunked-prefill handoff "
            "and skip Mamba state checkpoints.",
            view.chunked_prefill_size,
            self.mamba_cache_chunk_size,
        )

评论区精华

Issue 评论中 b8zhong 确认配置值为 16 tokens（非 16k）后，作者澄清极小 chunk 会导致 Mamba 状态检查点跳过，警告仅用于调试。无其他争议。

• chunked_prefill_size 值是否正常 (question): 确认配置值异常但合法，警告仅用于调试目的。

风险与影响

• 风险：无明显风险。该变更仅新增条件日志，不影响任何运行时路径或校验逻辑。潜在的误报风险极低：用户若设置合理 chunked_prefill_size（大于等于 mamba_cache_chunk_size）不会触发警告。
• 影响：影响范围极小。仅当 Mamba extra-buffer 启用且 chunked_prefill_size 小于 mamba_cache_chunk_size 时，会在启动时打印一行 warning。对用户无行为改变，对系统无性能开销。
• 风险标记：暂无

关联脉络

• PR #32016 [Fix] Evict only the KV shortfall in evict_from_tree_cache: 同为调度与缓存正确性修复，涉及 tree_cache 驱逐逻辑，与本 PR 的 Mamba 状态管理有共同上下文。
• PR #29973 [FIX] Prevent Lightning Attention extra-buffer mamba state corruption: 修复 Mamba extra-buffer 状态损坏，与本 PR 的警告场景（小 chunk 导致状态跳过）有直接关联。