DFlash2 选择器支持量化目标 lm_head,mask 尾部保连续
值得精读。核心看点是“mask padding 尾部而非 crop”如何同时解决 flashinfer 连续性约束与 TP 挂起问题,以及“借目标模型既有 CUDA graph 路径证明量化 kernel 可捕获”的推理方式;测试用 fake quant method 和 top-k 契约桩做 mutation-verified 覆盖,方法论也可借鉴。建议重点关注后续 #35580/#35581 对 degenerate-config 的补强。
参与讨论