#51038 [Bugfix][Quantization] Fix MXFP4 conversion for FlashInfer CUTLASS
原始 PR · 作者 lucifer1004 · 合并时间 2026-08-06 14:19
修复 FlashInfer CUTLASS 后端 MXFP4 权重转换缺失
值得精读。核心价值在于展示了多后端 MoE 量化权重转换的扩展模式:统一入口、按枚举分支布局交换与交错、用 monkeypatch 记录底层 interleave 调用来做纯 CPU 回归测试。对后续接入新后端或处理其他量化格式的开发者有直接参考意义。
参与讨论