Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-02 20:51 同步状态:空闲 下次计划:2026-09-02 21:51
后台正在同步并分析最近 PR,页面会自动刷新并逐步显示最新结果。

PR 列表

更多筛选
2026-06-18

#28556 chore: bump sgl-kernel version to 0.4.4

原始 PR · 作者 sglang-bot · 合并时间 2026-06-18 04:38

基础设施 重要性 3.97 洞察度 2.00

sgl-kernel 版本号从 0.4.3 升至 0.4.4

变更简单明确,可直接合并。建议在合并前确认 sgl-kernel 0.4.4 版本包已成功构建并上传到相关仓库。

#28394 Upgrade fa3 hash

原始 PR · 作者 Fridge003 · 合并时间 2026-06-18 04:32

功能 重要性 6.84 洞察度 5.00

升级 FA3 hash 并支持 only_qv 模式

推荐阅读 `sgl-kernel/python/sgl_kernel/flash_attn.py` 中 `only_qv` 的实现,了解如何在不改变内核 API 的情况下通过填充空张量跳过计算路径。该设计模式在类似场景(如条件性跳过某些 matmul)中有参考价值。同时,构建配置的智能化(根据平台开关 FA3)值得在其他 CUDA 特性中推广。

缺陷修复 重要性 6.42 洞察度 5.00

修复 draft-extend 阶段 mrope_positions 崩溃

建议精读。该 PR 修正了一个明确的运行时崩溃,修复逻辑清晰,通过新增分支复用已有方法,设计简洁。值得关注的是如何通过函数签名扩展(添加可选参数)来统一不同阶段的 mrope 位置计算。

功能 重要性 8.76 洞察度 6.00

新增 Apple Silicon Metal 性能分析后端

值得精读。该 PR 展示了如何通过 backend patch 模式在 SGLang 中为新型硬件添加 profiling 支持,设计思路清晰,与已有 NPU 后端一致,可作为跨后端扩展的参考模板。对于 Apple Silicon 开发人员,还提供了详细的用法和验证结果。

缺陷修复 重要性 7.21 洞察度 7.00

修复 EAGLE3 aux 捕获在 AR 融合下的 per-rank 碎片问题

值得精读,特别是 `_post_attn_residual_is_read_only` 的设计模式可作为类似 fusion-pass 中捕获正确状态的范例。建议合并前确认是否有针对 TP>1 的集成测试覆盖,后续可考虑添加。

#28520 [AMD] Fix deepseek-v4 mtp accept length issue

原始 PR · 作者 1am9trash · 合并时间 2026-06-18 02:13

缺陷修复 重要性 7.56 洞察度 6.00

修复 DeepSeek-V4 MTP 接受长度下降至 ~2.17 的问题

建议阅读 `get_unified_swa_loc` 的修改(约 15 分钟),理解如何在保留缓存性能的同时检测变长多步场景。集成测试和 CI 配置可作为类似问题的测试范例。

参与讨论