Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-05 03:32 同步状态:空闲 下次计划:2026-09-05 04:32

PR 列表

更多筛选
2026-07-23
重构 重要性 6.95 洞察度 5.00

删除 sglang.jit_kernel 包,完成统一内核命名空间迁移

- **值得精读**:本 PR 展示了如何逐步完成大规模包迁移的收尾工作,包括处理 shim、构建基础设施、打包配置、CI 触发器和文档同步。对于想了解 SGLang 内核组织模式的读者,这是必读 PR。 - **值得关注的决策**: 1. 采用“先保留 shim 逐步迁移,最后一次性删除”的策略,平衡了迁移进度与兼容性。 2. 将所有 JIT 构建资源(csrc/include)放在 `kernels/jit/` 下,而不是分散在算子模块中,保持了复用。 3. 在打包配置中灵活使用 glob 模式,确保新路径被包含在 wheel 中。 - **核心理念**:统一的 import 入口有助于降低贡献者认知负担,也为未来内核调度和缓存打下基础。

#30938 Warn on small Mamba chunked prefill size

原始 PR · 作者 danielafrimi · 合并时间 2026-07-23 06:09

其他 重要性 4.78 洞察度 3.00

Mamba chunked prefill 配置警告

值得快速合并。代码简洁清晰,定位准确,不引入运行时风险。可作为调试辅助工具帮助用户识别不合理的分块配置。

#31927 Bump FlashInfer to 0.6.15.post1

原始 PR · 作者 mmangkad · 合并时间 2026-07-23 05:22

性能优化 重要性 8.30 洞察度 6.00

升级 FlashInfer 至 0.6.15.post1,修复 MLA 和 MoE 性能回归

该 PR 值得精读,尤其是 MLA decode host overhead 的优化思路(持久化 buffer 避免重复分配)以及 MoE dispatch 缓存的设计。对于考虑升级 FlashInfer 的团队具有参考价值。

参与讨论