Prhub

#36897 Decouple speculative draft capacity from runtime state

原始 PR 作者 merrymercy 合并时间 2026-08-31 14:31 文件变更 6 提交数 2 评论 4 代码增减 +80 / -51

执行摘要

实现拆解

  1. 核心源码路径
    - python/sglang/srt/runtime_context.py(core-logic):源码主路径;涉及符号 _adaptive_draft_token_bound;包含 导入关系调整、控制流调整、配置键调整;+25/-29;关键符号:_adaptive_draft_token_bound
    - python/sglang/srt/speculative/spec_info.py(core-logic):源码主路径;涉及符号 resolve_max_speculative_num_draft_tokens;包含 导入关系调整、控制流调整、配置键调整;+23/-0;关键符号:resolve_max_speculative_num_draft_tokens
    - python/sglang/srt/arg_groups/overrides.py(dependency-wiring):源码主路径;包含 导入关系调整、控制流调整、配置键调整;+14/-14

  2. 测试与验证
    - test/registered/unit/test_runtime_context.py(test-coverage):测试配套;包含 测试覆盖调整、配置键调整;+3/-8
    - test/registered/unit/server_args/test_server_args.py(test-coverage):测试配套;包含 测试覆盖调整;+2/-0

文件 模块 状态 重要度
python/sglang/srt/runtime_context.py sglang/srt modified 7.28
python/sglang/srt/speculative/spec_info.py sglang/srt modified 6.85
python/sglang/srt/arg_groups/overrides.py sglang/srt modified 6.61
python/sglang/srt/speculative/spec_registry.py sglang/srt modified 6.33
test/registered/unit/test_runtime_context.py runtime/context modified 4.5

关键符号

_adaptive_draft_token_bound resolve_max_speculative_num_draft_tokens

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论