Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-04 01:42 同步状态:空闲 下次计划:2026-09-04 02:42

PR 列表

更多筛选
2026-05-26
重构 重要性 5.05 洞察度 2.00

复用 origin_input_ids 避免重复内存分配

该 PR 属于代码整洁性改进,逻辑简单,风险低,适合快速合入。对于关注性能细节的读者,可借此了解常见请求路径下的小型内存优化手法。

测试 重要性 6.20 洞察度 5.00

添加 PD 测试与调度器异常快速终止机制

值得精读。PR 展示了如何在分布式系统中设计安全、可选的中断机制,其 opt-in 设计、测试夹具的 teardown 顺序、环境变量命名规范都可作为内部可靠性改进的参考模板。

2026-05-25

参与讨论