执行摘要

本 PR 修复了 transformers 升级到 5.3.0 后 Llama Eagle3 模型配置读取的兼容性问题，通过在两个关键文件中添加回退逻辑，确保旧版检查点能正常初始化，避免模型加载失败，影响 speculative decoding 功能。

功能与动机

升级 transformers 后，旧版 Eagle 检查点（如 lightseekorg/kimi-k2.5-eagle3）无法正确读取 rope_theta 和 rope_scaling 配置，导致模型加载错误。PR body 明确说明这是为了解决兼容性问题，临时支持旧检查点的使用，避免用户中断。

实现拆解

修改涉及以下文件：

• python/sglang/srt/models/llama.py：在 __init__ 方法中添加回退逻辑。
  

  rope_parameters = getattr(config, "rope_parameters", None)
  if rope_parameters is not None:
      rope_theta = rope_parameters.get("rope_theta", 10000)
      rope_scaling = rope_parameters
  else:
      rope_theta = getattr(config, "rope_theta", 10000)
      rope_scaling = getattr(config, "rope_scaling", None)
  

• python/sglang/srt/models/llama_eagle3.py：类似修改，替换直接访问 config.rope_parameters 为安全检查。
  

  rope_parameters = getattr(config, "rope_parameters", None)
  if rope_parameters is not None:
      rope_scaling = rope_parameters
  else:
      rope_scaling = getattr(config, "rope_scaling", None)
  

评论区精华

review 中，gemini-code-assist[bot] 指出原始代码可能存在 AttributeError：

"Using getattr(config, \"rope_parameters\") without a default value will raise an AttributeError"
建议使用 getattr(config, \"rope_parameters\", None)。最终代码采纳此建议，提升了健壮性，显示了团队对正确性的重视。

风险与影响

• 风险：回退逻辑可能未完全覆盖旧配置变体，导致初始化失败；缺少单元测试（PR 中未勾选测试项）增加回归风险；配置结构未来变化可能破坏兼容性。
• 影响：用户可继续使用旧版检查点，系统功能无显著变化，但团队需加强测试以确保长期稳定性。

关联脉络

与历史 PR 如 #21258（涉及 speculative decoding 功能修复）和 #21709（修复 Eagle 模型相关 bug）相关，表明团队在持续优化 speculative decoding 生态系统。本 PR 是这一脉络中的兼容性补丁，共同推动模型推理的健壮性。