Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

deployment 相关 PR

2026-06-16
文档 重要性 7.53 洞察度 4.00

新增 GLM-5.2 部署 cookbook 文档

该文档 PR 结构清晰,数据详实,建议合并。对于 B300 和 BF16 的推断数据,可在页面添加警告横幅说明未经验证。值得关注的设计决策是使用 `--enable-dp-attention` 实现单节点 DP+TP 共存,以及通过 Playground 组件提供可扩展的配置实验能力。

2026-06-04

#26969 docs: add Nemotron 3 Ultra cookbook entry

原始 PR · 作者 zhenghax · 合并时间 2026-06-04 15:14

文档 重要性 7.55 洞察度 5.00

新增 Nemotron 3 Ultra cookbook 文档和交互式部署生成器

值得精读的文档 PR,特别是交互式生成器的验证矩阵设计模式,可用于其他模型的 cookbook 开发。关注其验证逻辑与文档同步机制,对后续文档自动化有参考价值。

2026-05-13

#25115 [Doc]: add interns2preview in cookbook

原始 PR · 作者 RunningLeon · 合并时间 2026-05-13 12:06

文档 重要性 4.55 洞察度 2.00

新增 Intern-S2-Preview 部署文档

对于需要部署 Intern-S2-Preview 模型的用户,建议精读此文档。文档中提供的 MTP 多 token 预测配置值得关注,展示了 SGLang 对新模型的高级特性支持。

2026-05-12

#24730 [Cookbook]: add Laguna-XS.2 (Poolside)

原始 PR · 作者 Jiminator · 合并时间 2026-05-12 23:06

文档 重要性 7.40 洞察度 4.00

添加 Laguna-XS.2 模型部署文档与交互式配置生成器

值得快速浏览 cookbook 页面和交互式组件代码,了解 SGLang 文档中部署指南的编写模式,特别是如何将 React 交互组件嵌入 Markdown 文档。对于维护者,需关注安装指南中的版本号随 SGLang 发布周期更新。