Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-06-07 12:34 同步状态:空闲 下次计划:2026-06-07 13:34

PR 列表

更多筛选
2026-04-28

#23801 docs: update Python prerequisite to 3.10

原始 PR · 作者 Kare0638 · 合并时间 2026-04-28 06:36

文档 重要性 2.47 洞察度 2.00

文档中 Python 版本要求更新至 3.10+

建议精读,虽然是简单变更,但体现了保持文档与代码同步的重要性,适合作为文档维护的参考案例。

缺陷修复 重要性 6.00 洞察度 5.00

修复 EAGLE3 分段 CUDA Graph 下 mm_input 丢失

值得精读:该 PR 修复了一个涉及分段 CUDA Graph 和推测解码交互的边界问题,代码简洁且有明确条件守卫,是理解 SGLang 推测解码与 CUDA Graph 如何协作的良好范例。

缺陷修复 重要性 8.75 洞察度 6.00

为 HiCache 添加 Context Parallelism 同步支持

建议精读 `cache_controller.py` 中的同步组创建逻辑(去重、gloo 后端选择)和 `hiradix_cache.py` 中的 fallback 到 tp_group 的策略,这些设计可用于其他需要跨并行组同步的场景。

#23851 [Docs] add cookbook for MiMo-V2.5 family

原始 PR · 作者 JustinTong0323 · 合并时间 2026-04-28 01:38

文档 重要性 7.54 洞察度 4.00

为 MiMo-V2.5 系列模型添加 cookbook 文档

值得阅读新的 cookbook 页面以了解 SGLang 对大型 MoE 模型的最新支持。部署生成器的约束设计(如根据模型变体和硬件自动调整 tp/dp/blackwell 标志)对编写同类文档有参考价值。

#23855 Add docs_new code owner

原始 PR · 作者 JustinTong0323 · 合并时间 2026-04-28 01:31

基础设施 重要性 2.42 洞察度 2.00

为 docs_new 添加代码所有者

该 PR 为常规维护操作,无需特别关注。

参与讨论