Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-04 00:39 同步状态:空闲 下次计划:2026-09-04 01:39

PR 列表

更多筛选
2026-06-25

#28899 Add CI permission for jiayisunx

原始 PR · 作者 jiayisunx · 合并时间 2026-06-25 14:49

基础设施 重要性 2.87 洞察度 1.00

为 jiayisunx 添加 CI 权限

该 PR 属于常规的权限管理操作,无需深入审查。建议关注 CI 权限配置的合规性,确保只有受信任的用户被授予此类权限。

缺陷修复 重要性 5.74 洞察度 4.00

修复 eager 模式 token 缓冲不足的问题

建议精读,这是一个典型的最小化修复案例:通过取 max 替代条件分支,安全地修复潜在的 under-allocation 问题。值得关注的是 reviewer 对测试覆盖的提问,后续可考虑补充单元测试。

性能优化 重要性 6.90 洞察度 6.00

跳过冗余 -inf 预填充以加速 HIP DSA 预填充

该 PR 体现了通过参数对齐消除冗余计算的典型优化手段,且提供了详尽的基准测试和单元测试验证。对于关注 AMD 平台长上下文推理性能的开发者,值得精读。设计决策值得在其他类似场景中借鉴。

#29253 Add MiMo V2.5 Blackwell vision FA4 recipe

原始 PR · 作者 BBuf · 合并时间 2026-06-25 13:47

功能 重要性 3.79 洞察度 3.00

为 MiMo V2.5 添加 Blackwell Vision FA4 配方

该 PR 是配置修复和文档更新,值得参考其处理多模态后端兼容性问题的方式。

功能 重要性 8.55 洞察度 6.00

支持BF16 LoRA快速路径并修复EP+CUDA图崩溃

建议团队关注 BF16 路径的性能差异,可考虑添加单元测试覆盖数值正确性。该 PR 的二流重叠设计决策(gate_up LoRA 并发的度、down LoRA 保持串行)值得学习,但需注意 CUDA graph 捕获期间的 event 管理。

#27144 Dllm radix cache npu

原始 PR · 作者 wenxuewuhd · 合并时间 2026-06-25 11:44

缺陷修复 重要性 4.95 洞察度 3.00

修复 NPU 上 DLLM 启用 radix cache 时页面大小不同步问题

该 PR 改动极小但修复了关键的一致性问题,建议合并。可快速阅读理解,无需精读全部文件。

#29252 Tune Gemma4 26B-A4B B200 memory recipe

原始 PR · 作者 BBuf · 合并时间 2026-06-25 11:31

documentation 重要性 3.49 洞察度 2.00

调低 Gemma4 26B-A4B 在 B200 上的内存比例

对于部署 Gemma4 26B-A4B 在 B200 上的用户,建议采用此配置;对于其他模型或硬件组合,无影响。

参与讨论