执行摘要

• 一句话：集中FlashInfer CUTLASS MoE到统一runner
• 推荐动作：值得精读flashinfer_cutlass.py的设计，理解MoeRunner的fused函数注册模式，这是MoE重构的核心抽象。建议关注后续是否采纳review中的缓存建议以优化热路径性能。

功能与动机

这是MoE重构路线图（#8715）Stage 3的一部分，目的是将各种MoE后端统一到MoeRunner框架下，提升代码可扩展性并消除重复逻辑。此前#26489已将SM90 MXFP4路径迁移到flashinfer_mxfp4.py，本PR将其与其他FlashInfer CUTLASS路径合并。

实现拆解

1. 新增python/sglang/srt/layers/moe/moe_runner/flashinfer_cutlass.py，包含两个数据类FlashInferCutlassMoeQuantInfo（支持bf16/fp8/fp4标准路径）和FlashInferCutlassMxfp4MoeQuantInfo（支持SM90 W4A16 MXFP4路径），以及fused执行函数_run_flashinfer_cutlass和注册函数fused_experts_none_to_flashinfer_cutlass。

2. 删除flashinfer_mxfp4.py，其内容（FlashInferMxfp4CutlassMoeQuantInfo、fused_experts_none_to_flashinfer_mxfp4）被合并到flashinfer_cutlass.py中，保留("none", "flashinfer_mxfp4") fused注册。

3. 修改modelopt_quant.py和unquant.py：移除直接导入flashinfer.fused_moe.cutlass_fused_moe和ActivationType，改为在create_moe_runner中根据backend选择MoeRunnerBackend.FLASHINFER_CUTLASS，并在apply中构造对应的MoeQuantInfo并调用self.runner.run()。

4. 更新mxfp4.py和mxfp4_flashinfer_cutlass_moe.py：将导入的类名从FlashInferMxfp4CutlassMoeQuantInfo改为FlashInferCutlassMxfp4MoeQuantInfo，并相应调整引用。

5. 在runner.py中注册flashinfer_cutlass为fused-only runner backend。

6. 更新测试文件test_mxfp4_sm90_cutlass.py中的导入路径，确保测试与新结构一致。

关键文件：

• python/sglang/srt/layers/moe/moe_runner/flashinfer_cutlass.py（模块 MoE后端；类别 source；类型 core-logic；符号 FlashInferCutlassMoeQuantInfo, FlashInferCutlassMxfp4MoeQuantInfo, _flashinfer_cutlass_fused_moe, _activation_type）: 新增的核心文件，集中所有FlashInfer CUTLASS fused函数，定义两个量化信息数据类，注册三个fused后端。
• python/sglang/srt/layers/moe/moe_runner/flashinfer_mxfp4.py（模块 MoE后端；类别 source；类型 deletion；符号 FlashInferMxfp4CutlassMoeQuantInfo, _flashinfer_cutlass_fused_moe, fused_experts_none_to_flashinfer_mxfp4）: 被删除的旧文件，其内容归并到flashinfer_cutlass.py中，统一管理。
• python/sglang/srt/layers/quantization/modelopt_quant.py（模块 量化层；类别 source；类型 dependency-wiring；符号 ActivationType）: 移除对flashinfer的直接导入，改为通过MoeRunner调用，减少冗余。
• python/sglang/srt/layers/quantization/unquant.py（模块 量化层；类别 source；类型 dependency-wiring）: 类似modelopt_quant.py，移除旧路径，改为使用flashinfer_cutlass runner。
• python/sglang/srt/layers/quantization/mxfp4.py（模块 量化层；类别 source；类型 dependency-wiring）: 更新导入类名以匹配新的统一文件。
• python/sglang/srt/layers/quantization/mxfp4_flashinfer_cutlass_moe.py（模块 量化层；类别 source；类型 dependency-wiring）: 同样更新导入类名以匹配新文件。
• python/sglang/srt/layers/moe/moe_runner/runner.py（模块 调度器；类别 source；类型 core-logic）: 注册flashinfer_cutlass为fused-only runner backend。
• test/registered/unit/layers/quantization/test_mxfp4_sm90_cutlass.py（模块 测试；类别 test；类型 test-coverage）: 更新测试中的导入类名以匹配新实现。

关键符号：_flashinfer_cutlass_fused_moe, _activation_type, _run_flashinfer_cutlass, fused_experts_none_to_flashinfer_cutlass, fused_experts_none_to_flashinfer_mxfp4, create_moe_runner, FlashInferCutlassMoeQuantInfo, FlashInferCutlassMxfp4MoeQuantInfo

评论区精华

gemini-code-assist[bot]在review中提出两个性能优化建议：在模块级别缓存_flashinfer_cutlass_fused_moe的导入结果和_activation_type的解析结果，避免每次前向调用重复导入。作者未在PR中采纳，PR由ch-wan直接批准合并。这些建议可能作为后续优化项。

• 缓存FlashInfer导入以优化前向性能 (performance): 未被采纳，PR作者未回应，PR由ch-wan批准合并。
• 缓存activation_type解析 (performance): 未被采纳。

风险与影响

• 风险：
  1. 性能回归风险：_flashinfer_cutlass_fused_moe和_activation_type每次调用都重新导入flashinfer和解析activation类型，在前向热路径上引入额外开销。尽管通常一次运行只创建一次runner，但fused函数每次被调用时都会执行导入，可能影响首次延迟。
  2. 导入路径变更风险：多个量化文件（modelopt_quant.py、unquant.py等）移除了旧导入，若存在其他未发现的导入路径（如自定义量化扩展）可能损坏。
  3. 测试覆盖：虽然已有test_mxfp4_sm90_cutlass.py更新，但其他量化路径（如modelopt FP8/NVFP4）的测试可能未覆盖新runner路径。
     - 影响：影响所有使用FlashInfer CUTLASS MoE的量化路径（BF16/FP8/NVFP4/MXFP4），包括DeepSeek V3/V4、GPT-OSS等模型。开发者添加新CUTLASS路径只需修改flashinfer_cutlass.py一个文件。用户无直接感知但获得更一致的MoE执行架构，便于未来性能优化和新硬件支持。
     - 风险标记：性能回归风险, 导入路径变更风险, 可能缺少覆盖测试

关联脉络

• PR #26489 [MoE Refactor] SM90 MXFP4 path to MoeRunner: 之前将SM90 MXFP4路径迁移到flashinfer_mxfp4.py，本PR将其合并到flashinfer_cutlass.py。
• PR #8715 [Roadmap] MoE Refactor: 整体重构路线图，本PR是其Stage 3的一部分。