缺陷修复
重要性 3.18
洞察度 3.00
修复 per-token 量化除法精度问题
该 PR 是典型回归修复,变更极小但影响显著。建议阅读 `per_token_group_quant.cuh` 中的 `QuantTrait` 结构体以理解量化缩放逻辑,以及关联的 #30924 和 #32582 理解完整背景。
标签列表
聚合结果
修复 per-token 量化除法精度问题
该 PR 是典型回归修复,变更极小但影响显著。建议阅读 `per_token_group_quant.cuh` 中的 `QuantTrait` 结构体以理解量化缩放逻辑,以及关联的 #30924 和 #32582 理解完整背景。