执行摘要

本 PR 对 Humming MoE 专家类和量化工具进行了关键重构，通过统一转换函数、标准 apply 签名和配置支持检查，为后续扩展奠定了更可维护的基础。

功能与动机

根据 PR 描述，本 PR 旨在使 Humming MoE 和量化更加标准化。具体动机包括：

• 为 Humming 专家添加合适的配置支持检查。
• 将准备层数据以用于 Humming MoE kernel 的转换函数统一为单一函数 convert_to_humming_moe_kernel_format。
• 让 Humming 专家使用标准的 apply 签名和 workspace 管理。

Review 中进一步讨论了与 modular kernel 框架对齐的必要性，并决定移除独立的 Humming oracle，将功能集成到 humming_utils.py。

实现拆解

1. 创建统一的层转换入口：在 vllm/model_executor/layers/quantization/utils/humming_utils.py 中新增 convert_to_humming_moe_kernel_format 函数，替代原有的 prepare_humming_moe_layer。该函数接受 FusedMoEQuantConfig 和 RoutedExperts 层，执行权重格式转换、schema 推导和 kernel 实例化。
2. 重构专家类：修改 vllm/model_executor/layers/fused_moe/experts/fused_humming_moe.py 中的 HummingIndexedExperts、HummingGroupedExperts 和 BatchedHummingGroupedExperts 类。它们现在继承自 mk.FusedMoEExpertsModular，并实现标准的 apply 方法签名（接受 output, hidden_states, w1, w2 等参数）。新增 _supports_quant_scheme 和 _supports_activation 等方法进行配置匹配。get_humming_moe_gemm_type 函数被修改为在环境变量未设置时返回 None，由上层决定默认行为。
3. 集成 QuantKey 推导与专家选择：在 vllm/model_executor/layers/quantization/humming.py 的 HummingMoEMethod 中，移除对独立 oracle 的依赖，改为在初始化时直接通过 weight_schema_to_quant_key 和 input_schema_to_quant_key 从 humming schema 推导 QuantKey，然后调用 select_humming_moe_experts 选择合适的专家类。get_fused_moe_quant_config 改为调用 get_humming_moe_quant_config。
4. 更新 FP8 和 MXFP4 后端：在 fp8.py 和 mxfp4.py 中，对应的 process_weights_after_loading 逻辑被简化，断言 moe_quant_config 和 experts_cls 非空，并直接调用新的统一转换函数 convert_to_humming_moe_kernel_format（在 mxfp4.py 中替代 prepare_humming_moe_layer）。
5. 补充 humming schema 延迟导入：在 vllm/utils/humming.py 中新增了 AWQWeightSchema、Fp8WeightSchema、CompressedTensorsWeightSchema 等多种 weight/input schema 的延迟导入指针，用于类型检查时按需加载。

fused_humming_moe.py - 获取 Humming MoE GEMM 类型

关键源码片段

## humming_utils.py - Humming group size 到 QuantKey GroupShape 的映射

def _group_shape(group_size: int, group_size_n: int = 0) -> GroupShape:
    """
    Map humming group sizes to QuantKey GroupShape.
    :param group_size: elements per group along K (col); 0 means full dimension.
    :param group_size_n: elements per group along N (row); 0 means 1 (per-row).
    GroupShape convention: row = N dim, col = K dim.
    """
    if group_size == 0 and group_size_n == 0:
        return GroupShape.PER_CHANNEL
    row = group_size_n if group_size_n > 0 else 1
    col = group_size if group_size > 0 else -1
    return GroupShape(row=row, col=col)

评论区精华

mgoin: "I'm confused, why do we need a humming oracle? Humming should be integrated as a kernel backend for the various oracles we have for each format"
bnellnm: "I've deleted the oracle file and put all the functionality into humming_utils.py"

gemini-code-assist (关于 apply 方法): "The apply method implementation ignores the w1, w2, a1q_scale, and a2_scale arguments, instead relying on self.layer. This violates the FusedMoEExpertsModular abstraction where the apply method should use the tensors passed to it."

mgoin (关于配置支持): "I think technically this won't cover GPTQ/AWQ normally since group_size isn't included in this list... but I suppose we can expand the list when we actually hook it up in #41652"

mgoin: "Can you also test grouped and batched gemms since I think you only tested gpt-oss with indexed gemm? EP definitely needs to be tested since I think I found a bug there with count"

风险与影响

风险

1. 模块化违规：apply 方法直接使用 self.layer 而非传入的权重参数，强制要求调用方传入与层内一致的权重，限制了在 LoRA 或权重合并场景下的扩展性。
2. 测试覆盖不足：PR 仅用 GPT-OSS 模型在 indexed gemm 模式上测试了 FP8 MXFP4 路径，缺少 grouped 和 batched gemm 以及 expert parallel 的测试。
3. 依赖缺失风险：如果 Humming 包未安装但用户显式请求 Humming 后端，虽然已通过延迟导入缓解，但部分路径仍可能出错（该风险在移除 oracle 后有所降低）。
4. 量化格式枚举不完整：_supports_quant_scheme 列表仅覆盖部分常见组合，若后续集成新格式可能遗漏。

影响

• 用户：使用 Humming MoE 后端的用户功能上应保持兼容，但配置支持和 kernel 选择逻辑已经标准化。
• 系统：改变了 MoE 权重加载到 kernel 调度的核心流程，要求 developers 在添加新的量化格式时遵循 schema 转换模式。
• 团队：代码可维护性提升，但需要后续补充测试和文档，特别是针对 grouped/batched gemm 和 EP 场景。

关联脉络

本 PR 是 Humming MoE 标准化系列工作的核心步骤。它与 #46629（MXFP4 emulation 后端切换）直接相关，因为 mxfp4.py 中的转换调用被更新。未来 PR #41652 将进一步扩展 _supports_quant_scheme 列表以支持更多量化格式。此外，本 PR 为后续添加 LoRA 支持以及多格式并行的 kernel 选择奠定了基础。