支持 ngram 猜测解码 v2,启用 overlap 调度
**值得精读**:此 PR 展示了如何将 ngram 猜测解码平滑融入现有的 spec v2 overlap 框架,设计决策值得学习,尤其是通过 Mixin 复用 EAGLE 的 pipeline、以及对非连续接受 token KV cache 的移动策略。关注点:`move_accepted_tokens_to_target_kvcache` 的语义、`max_tree_depth` 的动态推导。 **合并后建议**:跟进 `return_logprobs` 支持,并补充 NPU/AMD 测试。
参与讨论