执行摘要

• 一句话：修复MLX模型因量化配置缺失导致启动失败
• 推荐动作：作为典型的防御式编程修复，值得所有涉及字典键访问的代码参考。建议合入后关注是否有其他覆盖方法存在类似问题。

功能与动机

MLX 社区量化配置可能只包含 bits 和 group_size，不含 quant_method 字段。ModelConfig._verify_quantization() 在调用所有注册的量化覆盖方法时，HummingConfig 以 [] 访问 quant_method 导致 KeyError，阻止 MLX 模型启动。

实现拆解

1. 定位根因：python/sglang/srt/layers/quantization/humming.py 中 override_quantization_method 类方法以 hf_quant_cfg["quant_method"] 直接索引字典。
2. 替换为安全访问：将 [] 改为 .get()，当键缺失时返回 None，不会抛出异常。
3. 防御空值（review 建议）：在 .get() 前检查 hf_quant_cfg 是否为 None，避免 AttributeError。最终改为 if hf_quant_cfg and hf_quant_cfg.get("quant_method") == "mxfp4":。
4. 验证：已有 5 个 MLX 量化覆盖测试通过；裸 {"group_size": 64, "bits": 4} 配置不再报错；现有 mxfp4 和显式 Humming 行为不变。

关键文件：

• python/sglang/srt/layers/quantization/humming.py（模块 量化层；类别 source；类型 core-logic；符号 HummingConfig.override_quantization_method）: 本 PR 唯一修改的文件，修复 override_quantization_method 中字典键安全访问问题。

关键符号：HummingConfig.override_quantization_method

关键源码片段

python/sglang/srt/layers/quantization/humming.py

本 PR 唯一修改的文件，修复 override_quantization_method 中字典键安全访问问题。

# python/sglang/srt/layers/quantization/humming.py
# 修复前：hf_quant_cfg["quant_method"] == "mxfp4" 在键缺失时抛出 KeyError
# 修复后：使用 .get() 安全读取，并防御 hf_quant_cfg 为 None
@classmethod
def override_quantization_method(cls, hf_quant_cfg, user_quant) -> str | None:
    # 确保 hf_quant_cfg 不为 None 且包含 quant_method 为 "mxfp4" 时才进入
    if hf_quant_cfg and hf_quant_cfg.get("quant_method") == "mxfp4":
        return "mxfp4"
    if user_quant is not None:
        return user_quant
    return None

评论区精华

Review 中 gemini-code-assist[bot] 指出：若 hf_quant_cfg 为 None（如无量化模型），.get() 会引发 AttributeError。建议在调用 .get() 前增加 None 检查。该建议被采纳，最终代码为 if hf_quant_cfg and hf_quant_cfg.get("quant_method") == "mxfp4":。

• 防御 hf_quant_cfg 为 None 的情况 (correctness): 采纳建议，最终代码为 if hf_quant_cfg and hf_quant_cfg.get("quant_method") == "mxfp4":。

风险与影响

• 风险：本变更极其轻量，仅修改一行代码，风险极低。但需注意：如果其他 override_quantization_method 实现存在相同问题，本 PR 未涉及。建议后续统一核查所有覆盖方法。
• 影响：影响范围小，仅影响使用 MLX 社区量化配置（缺少 quant_method）的模型加载流程。修复后此类模型可正常启动，不改变现有行为。
• 风险标记：低风险单行修改

关联脉络

• 暂无明显关联 PR