ModelOpt FP4 在线 MoE 权重量化,覆盖草稿与 FP8 源
值得精读。重点看三处设计:1) `ModelOptFp4Config` 的契约拆分与 `get_quant_method()` 非序列化路由,理解"只量化 MoE 专家"的机制;2) `_ModelOptFp4OnlineConfig` 薄适配器如何通过类属性切换契约复用整套转换管线;3) `_resolve_explicit_draft_quant_config()` 对序列化 MTP checkpoint 排除专家的处理。测试方面 `test_modelopt_nvfp4.py` 的 activation 契约测试与 `test_modelopt_loader.py` 的 loader 选择测试是理解边界行为的最佳入口。
参与讨论