执行摘要

• 一句话：将 CuteDSL v1 DeepEP 路径迁移到统一 MoeRunner
• 推荐动作：值得精读，尤其是统一 dataclass 的设计决策以及如何在不影响外部行为的前提下逐步淘汰遗留路径。该 PR 展示了 MoE 重构路线图的具体落地模式，对理解 SGLang 的 MoE 架构演变有重要参考价值。

功能与动机

根据关联 Issue #8715（MoE 重构路线图），目标是淘汰绕过 MoeRunner 的遗留路径，统一代码结构。PR body 明确指出需要移除 DeepEPMoE.forward_flashinfer_cutedsl 和 ModelOptNvFp4FusedMoEMethod.apply_without_routing_weights。

实现拆解

1. 统一量化信息 dataclass（flashinfer_cutedsl.py）：将 CuteDslFp4MoeQuantInfo 扩展为同时适用于 v1（DeepEP low-latency）和 v2（标准）路径，新增 wrapper（v2 使用）、use_nvfp4_dispatch 和 down_gemm_overlap_args 字段并设默认值。

2. 注册新 fused_func（flashinfer_cutedsl.py）：通过 @register_fused_func("deepep", "flashinfer_cutedsl") 新增 fused_experts_deepep_to_flashinfer_cutedsl_fp4，该函数接收 DeepEPLLDispatchOutput 并调用 flashinfer_cutedsl_moe_masked 核函数。

3. 统一 apply 方法（modelopt_quant.py）：移除 apply_without_routing_weights，在 apply 中为 v1 路径新增分支，构造统一的 CuteDslFp4MoeQuantInfo 并调用 self.runner.run。同时将顶级属性访问延迟到分支内，避免 DeepEPLLDispatchOutput 缺少 topk_output 属性导致的崩溃。

4. 调整 deprecate_flag（ep_moe/layer.py）：将 cutedsl + modelopt_fp4 组合加入 deprecate_flag 条件，使得 forward_impl / run_moe_core 路由到父类的统一路径。移除了 forward_flashinfer_cutedsl 方法及其在 run_moe_core 中的调用点，同时简化了 DeepGEMM 版本检查逻辑。

5. 放宽 runner 断言（runner.py）：移除 set_overlap_args 和 clear_overlap_args 中对 fused_func 的 assert，允许 fused_func 与 overlap args 共存（通过 running_state 传递给 fused_func）。

6. 更新测试（test_cutedsl_moe.py）：更新 docstring 以反映新的入口点。

关键文件：

• python/sglang/srt/layers/quantization/modelopt_quant.py（模块 量化层；类别 source；类型 data-contract；符号 apply_without_routing_weights）: 核心文件：移除 apply_without_routing_weights，将 v1 路径接入统一的 apply 方法，通过 _is_cutedsl_v1_deepep 分支构造 quant_info 并调用 runner.run，同时调整导入和控制流。
• python/sglang/srt/layers/moe/moe_runner/flashinfer_cutedsl.py（模块 MoE 执行器；类别 source；类型 dependency-wiring；符号 fused_experts_deepep_to_flashinfer_cutedsl_fp4）: 关键文件：统一了 CuteDslFp4MoeQuantInfo 使其同时支持 v1 和 v2 路径，并注册了新的 fused_func 用于 DeepEP low-latency 路径，是迁移的核心。
• python/sglang/srt/layers/moe/ep_moe/layer.py（模块 EP MoE；类别 source；类型 core-logic；符号 forward_flashinfer_cutedsl）: 调整了 deprecate_flag 条件，将 cutedsl+modelopt_fp4 组合纳入统一路径，移除了 forward_flashinfer_cutedsl 方法及其调用。
• python/sglang/srt/layers/moe/moe_runner/runner.py（模块 Runner 框架；类别 source；类型 core-logic）: 移除 set_overlap_args / clear_overlap_args 中对 fused_func 的 assert，允许 fused_func 与 overlap args 共存。
• test/registered/moe/test_cutedsl_moe.py（模块 测试；类别 test；类型 test-coverage）: 更新 docstring 以反映新的入口点，确保测试文档准确。

关键符号：apply_without_routing_weights (removed), forward_flashinfer_cutedsl (removed), fused_experts_deepep_to_flashinfer_cutedsl_fp4 (new), apply (modified), run_moe_core (modified), set_overlap_args (modified), clear_overlap_args (modified)

关键源码片段

python/sglang/srt/layers/quantization/modelopt_quant.py

核心文件：移除 apply_without_routing_weights，将 v1 路径接入统一的 apply 方法，通过 _is_cutedsl_v1_deepep 分支构造 quant_info 并调用 runner.run，同时调整导入和控制流。

# Inside ModelOptNvFp4FusedMoEMethod.apply():
# ... earlier code ...
​
# CuteDSL v1 + DeepEP low-latency path (masked grouped GEMM).
if self.enable_flashinfer_cutedsl_moe and self._is_cutedsl_v1_deepep:
    # DeepEP low-latency dispatch is a 6-element tuple,
    # no topk_output container. Defer access to avoid AttributeError.
    hidden_states, hidden_states_scale, topk_ids, topk_weights, masked_m, _ = dispatch_output
​
    # Use unified dataclass; wrapper is None for v1 path.
    quant_info = CuteDslFp4MoeQuantInfo(
        w13_weight=layer.w13_weight,
        w2_weight=layer.w2_weight,
        w13_weight_sf=layer.w13_weight_swizzled, # swizzled blockscales
        w2_weight_sf=layer.w2_weight_swizzled,
        w1_alpha=layer.w1_alpha,
        w2_alpha=layer.w2_alpha,
        a1_scale=layer.input_scale,
        a2_scale=layer.fc2_input_scale,
        wrapper=None,
        use_nvfp4_dispatch=True,
        down_gemm_overlap_args=... # from runner state
    )
    return self.runner.run(dispatch_output, quant_info)
​
# CuteDSL v2 standard path (a2a=none/flashinfer).
if self.enable_flashinfer_cutedsl_moe:
    # ... uses wrapper, MMA blockscales ...
    pass

评论区精华

• gemini-code-assist[bot] 建议将 runtime 配置检查的 AssertionError 替换为 ValueError 或 RuntimeError，以避免在 -O 优化下被移除（评论）。该建议未采纳，因为仓库中已有类似断言模式，且性能测试已验证正确性。

• AssertionError should be ValueError/RuntimeError (correctness): 未采纳修改，仓库中已有类似用法，且性能测试已验证正确性。

风险与影响

• 风险：
  1. 量化数据契约变更：v1 和 v2 路径共享同一 CuteDslFp4MoeQuantInfo，但 blockscale 布局（swizzled vs MMA）和权重顺序（[Gate,Up] vs [Up,Gate]）不同，若构造 quant_info 时出错可能导致静默错误。但已通过真实模型端到端测试（DeepSeek-V3-NVFP4 4GPU）验证正确性。
  2. 移除遗留函数：apply_without_routing_weights 和 forward_flashinfer_cutedsl 被删除，若用户代码直接调用这些函数将无法编译。但它们是内部 API，外部使用可能性低。
  3. 性能无退化：详细基准测试显示 8 个配置均无退化，部分配置延迟降低最高 9.5%。
     - 影响：对最终用户透明：模型推理行为和命令行参数完全不变。对开发者正向影响：移除冗余代码，简化 MoE 代码库，未来添加新 backend 组合时只需注册 fused_func，无需修改框架代码。
     - 风险标记：核心路径变更, 量化数据契约变更, 移除遗留函数

关联脉络

• PR #23760 [MoE] Unify DeepEPMoE+MoriEPMoE through AITER MoeRunner pre/post-permute: 同一 MoE 重构路线图上的 PR，统一了 DeepEPMoE 和 MoriEPMoE 的 AITER 调用路径。
• PR #22822 [Refactor] Refactor DeepEP dispatcher: 重构 DeepEP dispatcher，与本次变更同属 MoE 模块优化系列。