Prhub

#35794 Add SGLang Granite SWA support via existing Granite models

原始 PR 作者 daviswer 合并时间 2026-08-22 02:13 文件变更 6 提交数 4 评论 5 代码增减 +232 / -124

执行摘要

实现拆解

  1. 核心源码路径
    - python/sglang/srt/models/granitemoe.py(data-contract):源码主路径;涉及符号 granitemoe_split_expert_weights, GraniteMoeSharedMLP, init, forward;包含 导入关系调整、控制流调整、配置键调整;+134/-51;关键符号:granitemoe_split_expert_weights, GraniteMoeSharedMLP, init, forward
    - python/sglang/srt/models/granite.py(data-contract):源码主路径;涉及符号 granite_layer_attn_params, build_attention_sinks, GraniteSWAForCausalLM;包含 导入关系调整、控制流调整、配置键调整;+61/-17;关键符号:granite_layer_attn_params, build_attention_sinks, GraniteSWAForCausalLM
    - python/sglang/srt/models/granitemoehybrid.py(data-contract):源码主路径;涉及符号 GraniteMoeSharedMLP, init, forward;包含 导入关系调整、控制流调整、配置键调整;+2/-48;关键符号:GraniteMoeSharedMLP, init, forward
文件 模块 状态 重要度
python/sglang/srt/models/granitemoe.py sglang/srt modified 9.08
python/sglang/srt/models/granite.py sglang/srt modified 8.38
python/sglang/srt/models/granitemoehybrid.py sglang/srt modified 8.18
python/sglang/srt/configs/model_config.py sglang/srt modified 6.37
python/sglang/srt/configs/granitemoehybrid.py sglang/srt modified 6.29

关键符号

granitemoe_split_expert_weights GraniteMoeSharedMLP __init__ forward GraniteMoeSharedForCausalLM GraniteMoeSWAForCausalLM granite_layer_attn_params build_attention_sinks GraniteSWAForCausalLM _to_sglang_layer_types

分析完成后,这里会展示 LLM 生成的相对完整源码片段和详细注释。

评论区精华

没有提炼出高价值讨论线程

当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。

风险与影响

关联 Issue

未识别关联 Issue

当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。

完整报告

参与讨论