#42778 [Model Runner V2] Fix prompt logprobs calculation `Sizes of tensors must match` error
原始 PR · 作者 yewentao256 · 合并时间 2026-05-18 23:27
修复 V2 模型运行器中 prompt logprobs 张量形状不匹配错误
值得精读用于理解 Model Runner V2 中 prompt logprobs 的处理流程,特别是跨请求变长张量切片的处理模式。该 PR 本身逻辑清晰简单,可作为参考学习。
参与讨论