#22241 [sgl] add ability to return logprobs in MultiLayerEagleWorkerV2
作者 2022tgoel · 合并时间 2026-04-10 07:20
修复MultiLayerEagleWorkerV2返回logprobs时崩溃问题,通过重构代码为共享辅助函数。
建议精读compute_spec_v2_logprobs函数的设计,了解如何统一处理spec v2的logprobs计算,这对于推测解码模块的开发者有参考价值。同时,关注测试覆盖的潜在缺口,考虑在后续工作中添加相关CI测试。
参与讨论