#41761 [Model Runner V2] Bug fix: logprob dtype int64/int32 issue
原始 PR · 作者 yewentao256 · 合并时间 2026-05-12 05:55
修复 MRV2 logprob 的 int64/int32 类型不匹配
建议精读。该 PR 展示了 Triton kernel 中类型一致性的重要性,并通过跨文件协作(内核、校验、测试)系统性解决问题。尤其值得关注的是 `_fill_logprob_token_ids_kernel` 中 `if/else` 分支的类型对齐技巧。
参与讨论