Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-01 19:08 同步状态:空闲 下次计划:2026-09-01 20:08
后台正在同步并分析最近 PR,页面会自动刷新并逐步显示最新结果。

PR 列表

更多筛选
2026-06-18
性能优化 重要性 7.86 洞察度 6.00

使用滑动窗口布局去重 Mamba spec 卷积中间缓存,内存减半

值得精读:展示了巧妙的滑动窗口去重思路、Triton kernel 的正确性验证流程(布局测试 + bit-exact + E2E md5)。设计决策(条件启用、参数透传)和实践(`as_strided` 视图的谨慎使用)有参考价值。建议关注 `max_mamba_cache_size` 的 follow-up 优化。

重构 重要性 9.18 洞察度 6.00

引入 get_parallel() 统一访问并行拓扑状态

值得精读。设计上惰性导入和 override 栈式恢复非常干净,可做为仓库基础架构层类似抽象的参考。关注其 _v() 方法如何统一覆盖与实时查找,以及 override 测试隔离的实现技巧。

#28597 fix

原始 PR · 作者 liusy58 · 合并时间 2026-06-18 11:03

基础设施 重要性 2.42 洞察度 2.00

调整 CODEOWNERS 中 mooncake_store 目录排序

该 PR 价值低,不值得精读。但作为 CODEOWNERS 维护的范例,可供参考如何正确组织目录与文件规则顺序。

功能 重要性 8.97 洞察度 5.00

为 SGLang 指标新增 Ray 后端包装器,支持集成到 Ray 监控系统。

值得精读,尤其是包装器设计(复制+标签绑定、边界过滤、名称净化)和测试策略(fake 模块注入实现 CPU 环境测试)。对于计划将 SGLang 嵌入 Ray Serve 的用户,本 PR 提供了零配置接入路径。

重构 重要性 7.93 洞察度 6.00

提取 bench 启动/连接决策到可重用 acquire_endpoint

建议阅读新模块的设计思路:将“启动 vs 连接”决策封装为单一的 `acquire_endpoint` 函数,并附带了清晰的关闭生命周期。值得在其他基准测试脚本中复用。该 PR 代码质量高,注释充分,适合作为代码复用和集中决策的范例。

#28514 Fix ScheduleBatch req pool CPU metadata

原始 PR · 作者 luoroger37 · 合并时间 2026-06-18 10:25

缺陷修复 重要性 7.20 洞察度 5.00

修复 ScheduleBatch 请求池 CPU 元数据不同步问题

值得精读,尤其是对 SGLang 调度器内部请求池管理感兴趣的人。设计权衡:应在源头初始化 CPU 镜像,还是在所有消费点添加防御?PR 采用混合方案,但评审者认为仅源修复即可,此分歧值得关注。

参与讨论