Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-02 19:48 同步状态:空闲 下次计划:2026-09-02 20:48

PR 列表

更多筛选
2026-04-22

#23459 [NPU] [DOC] Update Ascend NPU best practice

原始 PR · 作者 amote-i · 合并时间 2026-04-22 17:51

文档 重要性 3.01 洞察度 1.00

更新Ascend NPU最佳实践文档,调整Qwen3-Next配置为单卡

该PR为纯文档更新,技术含量低,不值得精读。但可关注其中关于单卡配置的推荐,为Ascend NPU用户提供参考。

#22658 PD streaming: batch notify + SSE fast path

原始 PR · 作者 inkcherry · 合并时间 2026-04-22 17:21

性能优化 重要性 7.94 洞察度 7.00

批处理通知+SSE快速路径,PD streaming吞吐+20%

强烈推荐合并。该PR提供了明确的性能收益和可衡量的基准结果。值得精读的部分包括:如何用msgspec替换Pydantic进行SSE序列化,以及批量通知模式的设计权衡。后续可关注IPC序列化迁移(PR #21643)以进一步释放性能。

基础设施 重要性 2.79 洞察度 1.00

将 Mooncake 依赖版本从 0.3.10.post1 升级至 0.3.10.post2。

此 PR 变更简单,无需精读。对于关注 CI 基础设施或依赖管理的工程师,可以快速浏览以了解 Mooncake 依赖的版本演进。

基础设施 重要性 5.30 洞察度 5.00

修复 /rerun-failed-ci 命令对跳过工作流的处理,避免不必要的完整 CI 重启。

值得 CI 维护者和基础设施工程师精读,关注 sgl-kernel 轮子构建检查的实现细节和跳过工作流的处理策略,以理解 CI 自动化优化方向。

基础设施 重要性 4.64 洞察度 3.00

为扩散模型GT生成CI工作流添加预构建sgl-kernel wheel支持,解决PyPI wheel ABI不兼容问题。

该PR主要涉及CI基础设施,对核心功能无影响。建议CI维护者关注其实现模式,可作为处理类似ABI不兼容问题的参考。普通开发者无需深入阅读。

参与讨论