Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态：已开启 最近同步：2026-09-02 19:48 同步状态：空闲 下次计划：2026-09-02 20:48

PR 列表

最近 1 天 最近 3 天 最近 7 天
更多筛选
标签聚合 仓库周报
2026-07-22

#30540 [Attention Backend] Add HPC-Ops attention backend

原始 PR · 作者 BBuf · 合并时间 2026-07-22 22:06

功能 重要性 8.96 洞察度 7.00

新增HPC-Ops注意力后端

该 PR 值得精读，特别是零拷贝 KV 池适配、图分割实现 FP8 路径、与现有元数据辅助函数的复用模式。后续 MoE 后端和融合算子的集成 PR 值得关注。建议在工厂函数中主动检查 `has_hpc_ops()` 并给出友好错误提示。

featureattentionperformance
缺陷修复 重要性 7.34 洞察度 6.00

修复 Lightning Attention 与 mamba extra-buffer 的状态损坏

此 PR 修复了一个微妙且难以发现的竞态问题，涉及 radix cache、mamba 状态和 Triton 内核的交互。PR body 中的 ASCII 图示和分析非常透彻，建议仔细阅读。

bugfixattentionjit-kernel
功能 重要性 8.45 洞察度 5.00

添加原生 gRPC sidecar 模块启动器

值得精读，尤其是 `sidecar.py` 中进程生命周期管理的设计与配置校验方式。对于有类似“陪伴进程”需求的系统有参考价值。建议在后续 PR 中增加集成测试覆盖真实进程场景。

featureinfratest
缺陷修复 重要性 5.96 洞察度 4.00

修复 LongCat n-gram 在填充批次上的崩溃

该 PR 值得合并，但建议后续补充单元测试覆盖填充批次场景，以及采纳 Gemini 建议添加 `_ng_bs` 守卫到 `update_ngram_token_table_after_sampling` 中以增强鲁棒性。

bugfixdeepseekkv-cache
缺陷修复 重要性 3.27 洞察度 2.00

修复 Marlin MoE 测试中 ServerArgs 初始化方式

建议合并。变更虽小，但消除了由配置重构引发的测试失败，有助于保持 CI 的稳定性。

bugfixtestmarlin/moe

#32047 [CI] Fix stale per-token group quant callers

原始 PR · 作者 mmangkad · 合并时间 2026-07-22 19:45

缺陷修复 重要性 5.88 洞察度 2.00

修复过时的 per-token group quant 调用者

建议快速合并。该 PR 修复了 CI 中的大量测试失败，是必要的清理工作。改动简单明了，审核已通过。无需精读，但可关注类似 PR 中因参数废弃导致的调用者更新。

bugfixquantsgl-kernel

参与讨论