#48929 [Bugfix][Model] Fix MiniMax-M3 NVFP4 inference correctness
原始 PR · 作者 lucifer1004 · 合并时间 2026-08-05 22:25
修复 MiniMax-M3 NVFP4 推理乱码,补齐 SwiGLU-OAI 参数传递
建议精读 `flashinfer_cutlass_moe.py` 的 `_per_expert` 重构与测试中的 monkeypatch 捕获模式,它们展示了如何在不改内核的前提下修复参数传递类正确性 bug。对于 MoE 量化适配的维护者,可进一步考虑把同一解析规则推广到 Marlin 等其他后端,并补充非 Swiglu 激活的映射回归测试。
参与讨论