Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 23:33 同步状态:空闲 下次计划:2026-09-04 00:33

PR 列表

更多筛选
2026-07-22

#32076 Fix Inkling kernel imports after migration

原始 PR · 作者 mmangkad · 合并时间 2026-07-22 22:09

缺陷修复 重要性 5.63 洞察度 1.00

修复 Inkling JIT 内核迁移后的导入路径

推荐合并。该 PR 是此前 JIT 内核迁移工作(#32045)的补丁,修复了一个阻止 Inkling 模型启动的回归缺陷。变更简洁、验证充分,值得快速跟进。

#30540 [Attention Backend] Add HPC-Ops attention backend

原始 PR · 作者 BBuf · 合并时间 2026-07-22 22:06

功能 重要性 8.96 洞察度 7.00

新增HPC-Ops注意力后端

该 PR 值得精读,特别是零拷贝 KV 池适配、图分割实现 FP8 路径、与现有元数据辅助函数的复用模式。后续 MoE 后端和融合算子的集成 PR 值得关注。建议在工厂函数中主动检查 `has_hpc_ops()` 并给出友好错误提示。

缺陷修复 重要性 7.34 洞察度 6.00

修复 Lightning Attention 与 mamba extra-buffer 的状态损坏

此 PR 修复了一个微妙且难以发现的竞态问题,涉及 radix cache、mamba 状态和 Triton 内核的交互。PR body 中的 ASCII 图示和分析非常透彻,建议仔细阅读。

功能 重要性 8.45 洞察度 5.00

添加原生 gRPC sidecar 模块启动器

值得精读,尤其是 `sidecar.py` 中进程生命周期管理的设计与配置校验方式。对于有类似“陪伴进程”需求的系统有参考价值。建议在后续 PR 中增加集成测试覆盖真实进程场景。

缺陷修复 重要性 5.96 洞察度 4.00

修复 LongCat n-gram 在填充批次上的崩溃

该 PR 值得合并,但建议后续补充单元测试覆盖填充批次场景,以及采纳 Gemini 建议添加 `_ng_bs` 守卫到 `update_ngram_token_table_after_sampling` 中以增强鲁棒性。

缺陷修复 重要性 3.27 洞察度 2.00

修复 Marlin MoE 测试中 ServerArgs 初始化方式

建议合并。变更虽小,但消除了由配置重构引发的测试失败,有助于保持 CI 的稳定性。

参与讨论