执行摘要

• 一句话：允许 cutedsl 使用 modelopt_mixed 量化
• 推荐动作：建议阅读 PR body 中对 modelopt_mixed 配置形状的分析，了解不同 ModelOpt 检查点的结构差异。此 PR 修改简洁，适合作为理解 SGLang 量化与 MoE 后端交互的入门案例。

功能与动机

ModelOpt MIXED_PRECISION 检查点（如 nvidia/Qwen3.5-397B-A17B-NVFP4-V2）解析为 quantization=modelopt_mixed，但 flashinfer_cutedsl 后端的 assert 只接受 modelopt_fp4 或 NVFP4 混合模型（hybrid NVFP4 models），而 modelopt_mixed 的 MoE 层配置格式不同，无法被 nvfp4_moe_meta 检测，导致启动失败。

实现拆解

1. server_args.py: 在 _handle_moe_kernel_config 方法中，将 flashinfer_cutedsl 后端的量化类型 assert 从仅 ["modelopt_fp4"] 扩展为 ["modelopt_fp4", "modelopt_mixed"]，使得 modelopt_mixed 量化能够通过参数验证。
2. ep_moe/layer.py: 在 DeepEPMoE 的 deprecate_flag 判断中，将 quant_config.get_name() == "modelopt_fp4" 改为 quant_config.get_name() in ("modelopt_fp4", "modelopt_mixed")，使得 modelopt_mixed 也能触发 FusedMoE 路径，避免使用不支持的 DeepEPMoE 初始化。

关键文件：

• python/sglang/srt/server_args.py（模块 参数解析；类别 source；类型 core-logic）: 核心入口，在参数验证阶段扩展了 flashinfer_cutedsl 后端的量化类型允许列表，使 modelopt_mixed 能通过 assert
• python/sglang/srt/layers/moe/ep_moe/layer.py（模块 MoE 层；类别 source；类型 core-logic）: 在 DeepEPMoE 的 deprecate_flag 判断中增加 modelopt_mixed，使 mixed 量化能正确使用 FusedMoE 路径

关键符号：未识别

关键源码片段

python/sglang/srt/server_args.py

核心入口，在参数验证阶段扩展了 flashinfer_cutedsl 后端的量化类型允许列表，使 modelopt_mixed 能通过 assert

# python/sglang/srt/server_args.py (head 版本 )
if view.moe_runner_backend == "flashinfer_cutedsl":
    # modelopt_mixed 且 MoE 层非 NVFP4 会在加载时被拒绝，这里只做参数级拦截
    assert (
        view.quantization in ["modelopt_fp4", "modelopt_mixed"]
        or self.get_model_config().nvfp4_moe_meta is not None
    ), (
        f"Invalid quantization '{view.quantization}'. "
        "FlashInfer CuteDSL MOE currently supports only: 'modelopt_fp4', "
        "'modelopt_mixed' (with NVFP4 MoE layers), or hybrid NVFP4 models."
    )

python/sglang/srt/layers/moe/ep_moe/layer.py

在 DeepEPMoE 的 deprecate_flag 判断中增加 modelopt_mixed，使 mixed 量化能正确使用 FusedMoE 路径

# python/sglang/srt/layers/moe/ep_moe/layer.py (head 版本 )
elif (
    get_moe_runner_backend().is_flashinfer_cutedsl()
    and quant_config is not None
    # 允许 modelopt_fp4 和 modelopt_mixed 触发 FusedMoE 路径
    and quant_config.get_name() in ("modelopt_fp4", "modelopt_mixed")
):
    self.deprecate_flag = True

评论区精华

此 PR 没有公开的 review 评论。PR body 详细分析了 modelopt_mixed 的两种配置形状（顶层 JSON key vs 逐层映射），并说明 modelopt_mixed 的 NVFP4 MoE 层实际会路由到同一个 ModelOptNvFp4FusedMoEMethod，因此 allowlist 限制属于遗漏而非内核限制。

• 暂无高价值评论线程

风险与影响

• 风险：低风险。变更仅扩展了字符串列表和元组，逻辑行为不变。但 SGLANG_MOE_NVFP4_DISPATCH 自动启用和 cutlass FP4-allgather 启发式仍然仅基于 modelopt_fp4，混合精度部署需要显式设置环境变量。此外，如果未来 modelopt_mixed 包含非 NVFP4 MoE 层，仍会在加载时被内核拒绝。
• 影响：影响范围有限。仅影响使用 --moe-runner-backend flashinfer_cutedsl 且 --quantization modelopt_mixed 的用户，特别是运行如 Qwen3.5-397B-A17B-NVFP4-V2 等混合精度 ModelOpt 检查点的场景。对其他后端的用户无影响。
• 风险标记：缺少测试覆盖

关联脉络

• 暂无明显关联 PR