#39474 [qwen 3.8 next] reuse old cuda stream instead of endlessly creating streams
原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-09-15 16:36
调整 QSA indexer 流上下文,复用已有 CUDA 流
建议精读但不必深挖:整个 diff 只有 4 行,真正值得关注的是三点——(1) stream 上下文的 fork 点从 QKV 准备之前后移到之后,以及 `wait_stream` 为什么没有跟着移动;(2) `record_stream` 与成对 `wait_stream` 构成的跨流契约;(3) PR 标题的“流不断创建”缺少量化与根因说明。若后续要修改 `_prepare_qkv_gate` 或 indexer 的读集合,务必回到这段代码确认 `wait_stream` 的语义仍然成立;同时建议给这类多流 overlap 改动补一条可复现的流数量断言或 profiler 基线,避免只靠截图背书。