SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-04-29 10:54
为 Eagle 推测解码引入 spec_hidden_size，修复 hidden size 不匹配
推荐合并并部署。该 PR 改动量小但影响面广，修复了关键的维度不匹配问题，且经过多场景 CI 验证。值得关注的设计决策是将 `hc_mult` 从模型配置中显式读取，而不是硬编码扩展系数，保持了灵活性和可扩展性。
原始 PR · 作者 merrymercy · 合并时间 2026-04-29 10:52
为 Tokenizer 指标添加 engine_type 标签
值得精读，展示了如何通过提取公共方法消除重复代码并保持配置一致性，适合作为代码复用和可观测性增强的参考。
原始 PR · 作者 merrymercy · 合并时间 2026-04-29 10:51
更新贡献指南，增加编码规范
可以直接合并，无需精读。
原始 PR · 作者 rahulvijayaraghavan · 合并时间 2026-04-29 10:44
XPU fused_experts 支持 router weight on input
值得阅读，特别是关注 MoE 架构与后端适配的工程权衡。建议后续追踪 fused_experts 内核内对 apply_router_weight_on_input 的原生支持进展。
原始 PR · 作者 ccullen-cert · 合并时间 2026-04-29 10:39
修复路由模板渲染 SSTI 安全漏洞
建议合并。这是一个典型的安全修复，变更小而精准，无需额外测试。开发者可关注 Qwen3 reranker 相关功能是否正常工作。
为 DeepSeek-V4 新增 H200 (FP4) 部署选项
值得阅读以了解如何在前端组件中处理不兼容硬件选项的优雅降级。设计上使用 Set 和显示禁用原因对用户友好。如果团队正在编写类似部署 cookbook，可参考此模式。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-04-29 10:32
清理 CI 中淘汰的 mooncake 变体残留
值得合并，解决了一个隐蔽的 CI 环境污染问题。注意后续若有新 mooncake 变体需要更新此逻辑。
原始 PR · 作者 hubertlu-tw · 合并时间 2026-04-29 10:28
修复 Aiter RMSNorm 在 strided 高维输入下的内存访问越界
值得合入。PR 定位准确，修复方案最小且安全，对 AMD 用户有实际价值。建议阅读 `forward_aiter()` 的实现方式，可作为处理不同后端 kernel 约束的参考模式。
参与讨论