执行摘要

• 一句话：支持自定义 Hybrid SWA 模型通过 HF 配置注册
• 推荐动作：建议精读，这是一个典型的通过配置接口开放框架能力的优秀设计。关注 is_hybrid_swa_model 的降级逻辑和 get_hybrid_layer_ids 的回退分支，可作为类似扩展点的参考。

功能与动机

硬编码白名单限制了社区自定义 Hybrid SWA 架构模型的接入，用户需要修改 sglang 源码才能利用 Hybrid SWA 内存优化。PR 通过检测 HuggingFace 配置中的 is_hybrid_swa 字段，为自定义模型提供免修改的接入入口。

实现拆解

1. 修改 is_hybrid_swa_model 签名：新增 hf_text_config 可选参数，在原有硬编码白名单检查之后，额外检测 hf_text_config.is_hybrid_swa 是否为 True，若为 True 则返回 True。
2. 更新 _derive_hybrid_model 调用：ModelConfig._derive_hybrid_model 将 self.hf_text_config 传递给 is_hybrid_swa_model，使新逻辑生效。
3. 为 get_hybrid_layer_ids 添加通用回退分支：在所有已知架构分支之后，检测 hf_text_config.hybrid_layer_pattern（列表形式，1 表示 SWA 层，0 表示 Full Attention 层），动态推导 swa_attention_layer_ids 和 full_attention_layer_ids。
4. 行为不变性保证：新逻辑置于现有分支之后，内置模型的检测和层 ID 推导行为完全不变。

关键文件：

• python/sglang/srt/configs/model_config.py（模块 模型配置；类别 source；类型 data-contract；符号 is_hybrid_swa_model, ModelConfig._derive_hybrid_model, get_hybrid_layer_ids）: 核心变更文件，修改了 Hybrid SWA 模型检测与层 ID 推导逻辑

关键符号：is_hybrid_swa_model, ModelConfig._derive_hybrid_model, get_hybrid_layer_ids

关键源码片段

python/sglang/srt/configs/model_config.py

核心变更文件，修改了 Hybrid SWA 模型检测与层 ID 推导逻辑

# python/sglang/srt/configs/model_config.py
​
def is_hybrid_swa_model(
    model_architectures: List[str],
    hf_text_config: Optional[PretrainedConfig] = None,
):
    # 首先检查硬编码白名单（已知的 Hybrid SWA 架构）
    hybrid_swa_archs = {
        "Llama4ForConditionalGeneration",
        "DeepseekV4ForCausalLM",
        "DeepseekV4ForCausalLMNextN",
        "GptOssForCausalLM",
        *MIMO_V2_MODEL_ARCHS,
        "MiMoV2MTP",
        "Step3p5ForCausalLM",
        "Step3p5MTP",
        "Step3p7ForConditionalGeneration",
        "Gemma4ForCausalLM",
        "Gemma4ForConditionalGeneration",
        "LagunaForCausalLM",
    }
    if any(arch in hybrid_swa_archs for arch in model_architectures):
        return True # 已知架构直接返回 True
​
    # ⬇️ 新增：通过 HuggingFace 配置中的 is_hybrid_swa 字段识别自定义 Hybrid SWA 模型
    # 这样自定义架构无需修改 sglang 源码，只需在 config.json 中设置 "is_hybrid_swa": true
    if hf_text_config is not None and getattr(hf_text_config, "is_hybrid_swa", False):
        return True
​
    return False
​
​
def get_hybrid_layer_ids(
    model_architectures: List[str],
    hf_text_config: PretrainedConfig,
):
    num_hidden_layers = hf_text_config.num_hidden_layers
​
    # ... 其他架构分支保持不变 ...
​
    # ⬇️ 新增：通用回退分支 - 支持自定义 Hybrid SWA 模型通过 hybrid_layer_pattern 指定 SWA/Full 层
    # hybrid_layer_pattern 是一个列表，1 表示 SWA 层，0 表示 Full Attention 层
    elif getattr(hf_text_config, "hybrid_layer_pattern", None) is not None:
        hybrid_layer_pattern = hf_text_config.hybrid_layer_pattern
        swa_attention_layer_ids = [
            i for i in range(num_hidden_layers) if hybrid_layer_pattern[i] == 1
        ]
        full_attention_layer_ids = [
            i for i in range(num_hidden_layers) if hybrid_layer_pattern[i] == 0
        ]
    else:
        swa_attention_layer_ids = None
        full_attention_layer_ids = None

评论区精华

无实质性设计讨论。PR 获得维护者 ispobock 的批准，后续仅因合并冲突和 CI 问题被多次重新触发和同步。作者在评论中三次提醒推进合入，凸显该 PR 被长期挂起。

• 暂无高价值评论线程

风险与影响

• 风险：

  • 与未来架构的兼容性：hybrid_layer_pattern 作为通用接口可能无法覆盖所有自定义模型的特殊模式，但作为可选回退，风险较低。
  • 配置字段不规范风险：依赖 HuggingFace 配置中的非标准字段 is_hybrid_swa 和 hybrid_layer_pattern，若用户误用可能导致意外启用 Hybrid SWA 路径，但影响仅限于开启 Hybrid SWA 内存优化，不会导致错误结果。
  • 缺少测试覆盖：PR 未新增针对性测试，对自定义配置的检测逻辑缺乏自动化验证。
  • 影响：用户：自定义 Hybrid SWA 模型用户可免修改源码；内置模型用户无感知。
    系统：对所有 Hybrid SWA 模型生效，但仅新增配置检测开销，性能影响可忽略。
    团队：减少了维护硬编码白名单的负担，新架构可通过配置快速接入。

• 风险标记：缺少测试覆盖, 依赖非标准配置字段

关联脉络

• PR #26549 [UnifiedTree]: Support eviction priority: 同属内存管理与调度优化方向