#40662 [Feat] Unified Synthetic Acceptance Rate for V1 and V2
原始 PR · 作者 benchislett · 合并时间 2026-04-24 08:48
统一 V1 和 V2 合成拒绝采样接受率配置
建议仔细阅读 `vllm/config/speculative.py` 中的配置解析和校验逻辑(最小方差调度设计简洁),以及 Triton kernel 的改动。对于自行实现推测解码的开发者,`unconditional_to_conditional_rates` 转换函数值得复用。PR 整体设计合理,测试覆盖完整,应批准合并。
参与讨论