Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-05 03:32 同步状态:空闲 下次计划:2026-09-05 04:32

PR 列表

更多筛选
2026-07-23
缺陷修复 重要性 3.64 洞察度 3.00

修复 GDN CuteDSL 测试因随机种子未设置导致的偶发失败

建议合并。这是一个小但有效的测试稳定性修复,通过简单明确的种子机制解决了 CI 中的间歇性失败。值得注意的实践是:当测试断言阈值接近误差分布尾部时,应主动固定随机种子以保证可重复性。

重构 重要性 5.89 洞察度 4.00

内核测试按 ops 组重新分类并移出辅助包

该 PR 侧重重构和整理,不涉及核心逻辑变更。建议阅读 `kernels/README` 了解最终布局和分类原则。对于贡献内核测试的开发者,应参考新的 `test/registered/kernels/ops/<group>/` 目录放置测试。设计决策(如 tests 与 benchmarks 分离、辅助包单独放置)值得关注。

缺陷修复 重要性 5.86 洞察度 6.00

修复 NPU W4A8 MoE 权重转换顺序导致的性能严重退化

建议精读。该 PR 展示了在硬件加速库(npu_format_cast)和量化打包(_pack_to_int32)之间执行顺序错误如何导致巨大性能损失。这是一个经典的 '非连续张量导致硬件格式转换失效' 案例,对理解硬件后端优化的细节非常有价值。同时,其性能对比数据的详细程度(多种场景、多个指标、对比正常提交)也是值得学习的实 践。但需要注意的是,目前缺少单元测试覆盖,相关模块的维护者应考虑补充。

#31863 [NPU]remove duplicate code

原始 PR · 作者 zhaozx-cn · 合并时间 2026-07-23 10:24

缺陷修复 重要性 4.88 洞察度 2.00

移除 NPU GDN 后端重复的 ssm_states 更新代码

值得合并。这是一个干净、低风险的 bugfix,专注地解决了重复代码问题,并且有充足的测试和 benchmark 验证。对于 NPU 平台的 Mamba 模型用户有正面效果。

功能 重要性 6.22 洞察度 5.00

Mooncake Store 新增模型感知的 key 隔离机制

建议阅读该 PR,尤其是关注 HiCache 多模型隔离的读者。核心设计决策 `config_prefix` 组合方案清晰,但有一个未解决的 review 建议(过滤空分割片段),值得后续跟进补丁。

功能 重要性 7.69 洞察度 6.00

新增 CPU 共享内存 allgather_into_tensor 和 reduce_scatter_tensor 内核

值得精读。重点了解:如何通过 `STATE_GROUP` 模板参数避免竞争条件;`allreduce_workspace` 的偏移量宏扩展机制;测试文件从 manual 迁至 registered 并注册 CI 的流程。

参与讨论