#24058 debug followup
原始 PR · 作者 JustinTong0323 · 合并时间 2026-04-29 23:03
为 Mistral Medium 3.5 添加 EAGLE 推测解码支持
建议精读 `mistral_eagle.py` 和 `mistral_utils.py` 中的配置分支设计,了解如何利用已有的 Llama EAGLE 框架支持新模型。该 PR 展示了 weight name remapping 和 quant_config 传递的实践,值得参考。
参与讨论