Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-01 17:58 同步状态:空闲 下次计划:2026-09-01 18:58

PR 列表

更多筛选
2026-08-26
文档 重要性 6.18 洞察度 5.00

GLM-5.3-Flash cookbook 新增 FP8 KV + TRT-LLM 基准卡并设为 Blackwell 默认

建议阅读此 PR,因为它展示了如何在文档生成的源码中处理多维度的配置匹配,尤其是 `findBenchmark` 的“最具体匹配优先”设计,这是一种可复用的模式。同时,对于 Blackwell 用户,本 PR 的默认配置变更值得关注。

#36493 chore: bump mooncake version to 0.3.13

原始 PR · 作者 ShangmingCai · 合并时间 2026-08-26 22:21

基础设施 重要性 4.27 洞察度 5.00

升级 Mooncake 至 0.3.13,并适配 TCP 队列限制

值得关注,尤其是 Mooncake 新版本的 TCP admission 控制行为对测试的影响。建议阅读测试文件中的注释和变更,理解如何通过环境变量适配。

功能 重要性 9.18 洞察度 6.00

Cosmos3 动作生成支持请求内批处理,吞吐最高 3.3 倍

值得精读,尤其是四点:请求内批处理如何在不破坏 B=1 输出契约的前提下贯穿整条 diffusion 管线;prompt 标量广播与逐图配对的准入校验;新增 adapter 对 protocol.py 的隔离重构;作者对测量边界与数值一致性的坦诚声明。对机器人策略服务或 diffusion 管线开发者有直接借鉴价值。注意合并时 GPU fixed-noise 一致性与隔离 server 基准仍未完成,应作为后续验证项跟进。

#36440 Add GLM-5.3-Flash cookbook

原始 PR · 作者 JustinTong0323 · 合并时间 2026-08-26 22:00

文档 重要性 7.50 洞察度 4.00

新增 GLM-5.3-Flash 部署 cookbook 与基准配置

### 建议 可作为 cookbook 编写规范的参考 PR 快速阅读。重点留意 `_deployment.jsx` 中 overlay 维度回退逻辑的通用化处理——它解决了 URL hash 与 UI 状态不一致的历史问题,是后续扩展部署面板时值得复用的设计。对普通用户来说,文档页面的命令生成和基准注释(区分模拟与真实数据)也体现了良好的可复现性实践。

#36496 Add Qwen3.8-Flash-Next cookbook

原始 PR · 作者 yhyang201 · 合并时间 2026-08-26 20:37

文档 重要性 7.40 洞察度 4.00

新增 Qwen3.8-Flash-Next Day-0 部署 cookbook 文档

值得精读配置驱动模板的数据契约设计:单一字面量导出、反规范化 cell、`overlayDims` 与 `showWhen` 拨杆机制,对后续新增模型文档有直接参考价值。合并前必须解决两个问题:回填 `<PR-NUMBER>` 模型支持 PR 编号、确认 Extra CI 失败原因。由于无引擎改动,不必作为架构评审重点,但可作为文档发布流程与模板复用的样例。

#36255 config: ServerArgs holds the raw input

原始 PR · 作者 ch-wan · 合并时间 2026-08-26 20:14

重构 重要性 8.68 洞察度 7.00

ServerArgs 只存原始输入,解析决议改走声明与投影

值得精读:这是 SGLang 配置解析从『可变混合体』转向『不可变原始输入 + 声明式决议』的收尾 commit,`replace_resolved` 与 AST 派生测试的设计有较强借鉴价值。合并后建议优先跟进 Codex 提出的网关 DWDP(P1)与旧 wheel 兼容(P1)两个问题,并排查其余 P2 读端点。

缺陷修复 重要性 6.94 洞察度 5.00

修复 FP8 委托方法读取缺失配置导致的启动崩溃

值得精读。该 bug 是两个 PR 交叉产生的典型“潜伏回归”:委托模式(#25820)与无条件属性访问(#33962)单独看都没有问题,组合后才崩溃。修复方式(用实例所有权标志叠加全局配置判断)是一个简洁且可复用的防御式设计;新增测试对“持有者/借用者/后端类型”三轴组合覆盖完整,可作为量化方法单元测试的范例。

参与讨论