PR 分析报告：docs(cookbook) 修复 Qwen3.8 Flash Next H200 MTP verify

执行摘要

本 PR 针对 Qwen3.8-Flash-Next 在 SM90（H200）上低延迟配方中 NEXTN 投机解码与 BF16 SSM 状态组合时的失败问题，通过在 cookbook 配置中为 H200 BF16/FP8 低延迟配方显式添加 --linear-attn-verify-backend triton，确保目标验证 CUDA 图捕获使用 Triton 后端而非不兼容的 FlashInfer。改动仅 2 行，但解决了实际运行错误，并涉及文档与后端行为之间的耦合。

功能与动机

H200 低延迟配方结合 NEXTN 与 --mamba-ssm-dtype bfloat16，在 SM90 上 FlashInfer MTP verify 路径要求 fp32 SSM 状态，导致自动选择 FlashInfer 时目标验证图捕获失败并抛出 AssertionError: initial_state must be float32, got torch.bfloat16。PR #34592 让 SGLang 尊重显式选择的 verify 后端，因此 cookbook 需要显式指定 triton 来规避该问题。

实现拆解

1. 修改 cookbook 配置文件：在 docs/src/snippets/configs/Qwen/qwen3.8-flash-next.jsx 中，为两个 H200 低延迟配方（BF16 与 FP8）的 flags 数组加入 "--linear-attn-verify-backend triton"，位置在 --linear-attn-decode-backend flashinfer 之后、--mamba-ssm-dtype bfloat16 之前。
2. 保留其他后端设置：prefill 和 decode 继续使用 flashinfer，仅验证切换到 triton，符合 PR #34592 的设计意图。
3. 验证：作者运行了配置检查脚本 node docs/scripts/check_cookbook_configs.mjs，确认仅 H200 低延迟单元格受影响；并在 H20 SM90 环境验证了服务器启动、目标验证图捕获、/health 与 Chat Completions 请求，运行时解析为 verify=TritonGDNKernel。

docs/src/snippets/configs/Qwen/qwen3.8-flash-next.jsx

该文件是 cookbook 配置的核心，管理 Qwen3.8-Flash-Next 的已验证配方。本次变更通过为 H200 低延迟配方添加 verify 后端标志，直接解决了 SM90 上 BF16 SSM 状态引起的图捕获失败。

// 仅展示新增的 verify 后端配置（其余 flags 保持不变）
{
  match: { hw: "h200", variant: "default", quant: "bf16", strategy: "low-latency", nodes: "single" },
  verified: true,
  // 显式指定 verify 后端为 Triton，避免 SM90 上 FlashInfer 要求 fp32 SSM 状态导致图捕获失败
  flags: [
    "--linear-attn-prefill-backend flashinfer",
    "--linear-attn-decode-backend flashinfer",
    "--linear-attn-verify-backend triton", // 新增：仅验证路径用 Triton，prefill/decode 仍用 FlashInfer
    "--mamba-ssm-dtype bfloat16",
    "--speculative-algorithm NEXTN",
    // 其余 flags 省略
  ],
}

评论区精华

Codex 自动审查："当用户从 H200 高吞吐量配方启用 MTP 时，生成的命令仍会默认选择 FlashInfer verify，导致 SM90 失败；建议为高吞吐量配方也添加 Triton 覆盖。"

该问题未在本次 PR 中解决，需注意后续。

风险与影响

• 文档配置遗漏：H200 高吞吐量配方未添加 Triton verify，用户从该配方启用 MTP 时仍可能遇到图捕获失败。
• 依赖行为变化：新增 flag 依赖 PR #34592 的显式选择逻辑，未来若默认行为变化，文档需同步。
• 影响范围：仅影响文档生成的命令，无运行时风险，但可能误导部分用户。

关联脉络

与 PR #34592 直接相关，该 PR 引入了 --linear-attn-verify-backend 选项。本 PR 是文档侧的配套修正，确保 cookbook 配方符合新行为。后续可能还需覆盖高吞吐量配方或调整投机处理逻辑。