执行摘要

• 一句话：修复 Mooncake benchmark 字典行下访问 prompt 崩溃
• 推荐动作：值得简单浏览：原因在于它展示了如何在 benchmark 入口区分‘数据格式未转换’与‘已转换的强类型对象’，以及如何避免在公共入口中堆积数据集特判。Mooncake 相关逻辑仍集中在 serving.py，未来可考虑将 trace 行的转换提前到数据加载阶段，从根上消除这类分支。

功能与动机

基准测试代码在计算 is_multi_turn 时无条件访问 input_requests[0].prompt，但 Mooncake trace 在进入 scheduler 之前仍是原始字典行，导致在派发任何请求前就抛出 AttributeError。该 PR 通过注入 is_mooncake 分支规避此崩溃，保证 Mooncake 数据集可以正常跑 benchmark。

实现拆解

1. 在 benchmark() 开头引入 is_mooncake = args.dataset_name == 'mooncake'，替代原来三处散落的 args.dataset_name == 'mooncake' 判断，降低重复。
2. 将通用多轮检测约束在非 Mooncake 分支；Mooncake 分支直接置 is_multi_turn = False，避免访问不存在的 .prompt 属性。
3. 将 warmup、请求生成与指标计算中的 mooncake 判断统一改用 is_mooncake，并将 calculate_metrics 的输入从原始 input_requests 改为请求生成器产出的 benchmark_requests，确保指标与真实请求对齐。
4. 配套新增测试 test_benchmark_mooncake_validation.py，覆盖 Mooncake 原始字典行不会触发通用多轮检测的回归场景。

关键文件：

• python/sglang/benchmark/serving.py（模块 基准测试；类别 source；类型 core-logic；符号 benchmark）: 核心源码变更：在 benchmark() 入口新增对 Mooncake 场景的校验逻辑，跳过通用多轮检测并修正指标计算的输入。
• test/registered/unit/benchmark/test_benchmark_mooncake_validation.py（模块 单元测试；类别 test；类型 test-coverage）: 新增回归测试，覆盖 Mooncake 原始字典行不会触发通用多轮检测、不会访问 .prompt 属性的场景。

关键符号：benchmark

关键源码片段

python/sglang/benchmark/serving.py

核心源码变更：在 benchmark() 入口新增对 Mooncake 场景的校验逻辑，跳过通用多轮检测并修正指标计算的输入。

# python/sglang/benchmark/serving.py
# 该示例片段展示 benchmark() 中对 Mooncake 路径的处理要点
def benchmark(
    input_requests: List[Union[DatasetRow, Dict[str, Any]]],
    request_rate: float,
    ...
):
    # 判断数据集类型：Mooncake trace 行在转换前是原始字典
    is_mooncake = args.dataset_name == 'mooncake'
​
    # Mooncake 行没有 .prompt 属性，不能走通用多轮检测
    if is_mooncake:
        is_multi_turn = False
    else:
        first_prompt = input_requests[0].prompt
        is_multi_turn = (
            isinstance(first_prompt, list)
            and bool(first_prompt)
            and _normalize_round_messages(first_prompt[0]) is not None
        )
    # 其余逻辑不变，warmup 与请求生成均复用 is_mooncake 分支

评论区精华

该 PR 未附带实质性评审讨论，kpham-sgl 直接批准合并。变更意图清晰：通过 is_mooncake 分支隔离 Mooncake 特有数据结构，尽量避免在公共 benchmark 入口扩散与数据集格式有关的判断。

• 暂无高价值评论线程

风险与影响

• 风险：变更将 calculate_metrics 的输入改为运行时生成的 benchmark_requests，如果请求生成器未来改变产出结构，指标计算可能收集空列表；但现有生成逻辑稳定。同时 is_mooncake 仍依赖 args.dataset_name == 'mooncake' 字符串匹配，若数据集名称变更需要同步更新。改动仅影响 sglang.benchmark.serving，不会进入运行时推理路径。
• 影响：影响范围限定在 sglang.benchmark.serving 的 Mooncake 数据集路径：修复了此前完全无法运行的问题，并为后续多轮 trace 指标计算打下基础。对其他数据集的 benchmark 行为有轻微变化（指标输入从原始列表换成生成器产物），但语义上更准确。团队无需额外配置。
• 风险标记：依赖字符串匹配 dataset_name, 指标输入依赖运行时生成列表

关联脉络

• 暂无明显关联 PR