执行摘要

• 一句话：spec v2 使用 event.wait() 替代 synchronize() 避免 CPU 阻塞
• 推荐动作：值得精读。展示了 CUDA 事件流同步的最佳实践（stream-level wait vs. CPU synchronize），以及 CI 工作流设计中针对重新触发场景的实战思考。是小型却关键的优化。

功能与动机

PR body 明确说明：在 maybe_wait_verify_done 中使用 event.wait()（stream-level）替代 .synchronize()（CPU block），后续 schedule-stream prep ops 通过 stream wait 排序在 forward-stream verify 之后，CPU 不再阻塞。随后的 .cpu() / .item() 调用自然同步 stream。CI 部分则解决 workflow-level if 读取 frozen event payload 导致 rerun 后标签门控无法更新的问题。

实现拆解

1. schedule_batch.py：修改 maybe_wait_verify_done 方法，将 draft_input.verify_done.synchronize() 替换为 draft_input.verify_done.wait()。这样 CPU 不再等待 GPU 事件完成，而是将依赖关系通过 CUDA stream 事件管理，后续在 filter_batch 中调用此方法后，仍能保证在读取 seq_lens 等数据前验证已完成，但 CPU 可继续提交其他流操作。
2. pr-gate.yml：新增 require-run-ci-extra 布尔输入和一个额外步骤 Require run-ci-extra label (optional)。当 workflow 由 pull_request 触发且 require-run-ci-extra 为 true 时，通过 gh pr view --json labels 实时获取当前标签，检查是否包含 run-ci-extra。这避免了 workflow-level if 使用 frozen event payload 的局限，使 rerun 能正确识别通过 slash command 添加的标签。
3. pr-test-extra.yml：移除原有的 workflow-level 标签门控 if 条件（该条件使用 event payload 的 contains 检查），将实际标签校验委托给 pr-gate.yml 的 runtime 步骤。保留对 labeled 事件的过滤——仅当添加的 label 是 run-ci 或 run-ci-extra 时才触发 workflow，防止无关标签触发完整 CI。

关键文件：

• python/sglang/srt/managers/schedule_batch.py（模块 调度器；类别 source；类型 core-logic；符号 maybe_wait_verify_done）: 核心变更文件，修改了 speculative decoding v2 的验证完成等待逻辑，将 synchronize() 替换为 wait()，影响了所有使用 spec v2 的请求路径。
• .github/workflows/pr-test-extra.yml（模块 CI；类别 infra；类型 infrastructure）: CI 额外测试工作流，将标签门控逻辑移至运行时步骤，配合 pr-gate.yml 实现 live-fetch 标签检查，使 rerun 能正确识别新标签。
• .github/workflows/pr-gate.yml（模块 CI；类别 infra；类型 infrastructure）: CI 门控工作流，新增 require-run-ci-extra 输入和运行时标签检查步骤，实现基于实时 API 的标签验证，支持 rerun 后识别通过 slash command 添加的标签。

关键符号：maybe_wait_verify_done

关键源码片段

python/sglang/srt/managers/schedule_batch.py

核心变更文件，修改了 speculative decoding v2 的验证完成等待逻辑，将 synchronize() 替换为 wait()，影响了所有使用 spec v2 的请求路径。

def maybe_wait_verify_done(self):
    # 使用 event.wait()（stream 级别等待）替代 .synchronize()（CPU 阻塞）。
    # 此方法之后的 schedule-stream 准备操作通过 stream 等待事件完成，
    # CPU 不会阻塞。后续的 .cpu() / .item() 调用会自动同步 stream。
    if self.is_spec_v2:
        draft_input: EagleDraftInput = self.spec_info
        if draft_input.verify_done is not None:
            draft_input.verify_done.wait() # 之前是 draft_input.verify_done.synchronize()

评论区精华

作者在 Issue 评论中确认，test_lora_qwen3_8b_logprob_diff.py 在分支上的失败是预先存在的 cutlass 安装问题，非此 PR 导致。已通过合入主分支 #25756（修复 cutlass 安装）验证通过。

• 暂无高价值评论线程

风险与影响

• 风险：核心风险源于 CUDA 事件语义：wait() 是 stream-level 同步，保证后续在同一个 stream 上提交的操作在事件完成后执行，但不会阻塞 CPU。如果上游代码在不同 stream 上使用了错误的依赖关系，可能导致数据不一致。但当前用法正确：maybe_wait_verify_done 只在 filter_batch 中被调用，且 filter_batch 运行在 schedule stream 上，该 stream 已通过 forward_stream 的事件正确排序。CI 部分的风险较低，live-fetch 标签增加了少量额外 API 调用，但仅限于 gate job。
• 影响：性能：减少 CPU 在 speculative decode 期间的阻塞，可能提高整体吞吐，尤其在高频 batch 构建场景。CI 体验：标签门控从事件时固定的检查变为运行时动态检查，/tag-and-rerun-ci extra 等 slash command 现在能可靠生效。影响范围：仅影响启用 speculative decoding v2 的请求路径和 CI extra 工作流，对其他功能无影响。
• 风险标记：CUDA 同步语义依赖, 缺少直接测试覆盖, CI 实时标签可能增加 API 调用

关联脉络

• PR #25756 [Fix] Fix extra uninstall of cutlass packages: Issue 评论提到 test_lora_qwen3_8b_logprob_diff.py 的失败是预先存在的 cutlass 安装问题，已在 #25756 修复，需要合并主分支以通过该测试。
• PR #24640 Support spec v2 for FlashMLA speculative decoding: 涉及同一 speculative decoding v2 功能线，本 PR 的 wait() 优化在其基础上改进。