Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-02 19:48 同步状态:空闲 下次计划:2026-09-02 20:48

PR 列表

更多筛选
2026-06-12
缺陷修复 重要性 6.38 洞察度 5.00

修复 maturin 1.14 下 gateway 构建失败

值得合并,修复构建阻塞问题。变更简洁明了,逻辑清晰。建议读者关注其中的工作区设计模式——通过声明工作区解决 maturin 路径校验问题,而非逐个脚本固定 maturin 版本,是一种更优雅的解决方案。

测试 重要性 7.07 洞察度 5.00

XPU CI新增多特性与Embedding测试

此 PR 适合作为 XPU CI 测试模板参考,尤其是单一 fixture 覆盖多特性的设计模式。建议关注 `register_xpu_ci` 注册机制和 `CustomTestCase` 基类的使用方式。对于 Intel XPU 开发者,可从此测试用例中学习如何编写类似的功能验证测试。

性能优化 重要性 6.81 洞察度 5.00

统一KV缓存SWA位置计算每步仅一次

值得阅读,展示了如何通过简单的缓存减少热路径上的重复计算以获得可观的性能收益。设计模式(元数据缓存 + 回退)可推广到其他层间共享的计算。

#26082 perf: eliminate CUDA syncs in VLM embed path

原始 PR · 作者 Jumiar · 合并时间 2026-06-12 13:15

性能优化 重要性 6.74 洞察度 6.00

消除 VLM 嵌入路径中的 CUDA 同步

值得精读:作者识别并消除了典型 CUDA 同步模式,使用 masked_scatter_、CPU 偏移计算和预计算哈希三种互补技术。设计讨论展示了务实的工程权衡(推迟不常见优化)。

#27994 Remove outdated patch

原始 PR · 作者 akao-amd · 合并时间 2026-06-12 13:14

基础设施 重要性 3.70 洞察度 1.00

移除 AMD CI 中过时的 ROCm 7.2 hotpatch

该 PR 是简单的清理工作,无需重点阅读。但可以作为 AMD CI 维护者了解历史 hotpatch 的参考。

参与讨论