Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-04 00:39 同步状态:空闲 下次计划:2026-09-04 01:39

PR 列表

更多筛选
2026-06-06

#27427 Add GB300 base C CI suite

原始 PR · 作者 Fridge003 · 合并时间 2026-06-06 17:27

基础设施 重要性 6.39 洞察度 5.00

在 CI 中添加 GB300 硬件测试套件并迁移 4-GPU 配置

值得精读,特别是 `test_numa_utils.py` 的重构模式和 `slash_command_handler.py` 中字段传递的设计。展示了如何在不入侵业务代码的前提下扩展 CI 硬件覆盖。对于需要新增 CI runner 的开发者有参考价值。

#27285 [HiCache] Fix crash when using PP + HiCache L2

原始 PR · 作者 stepinto · 合并时间 2026-06-06 16:57

缺陷修复 重要性 8.92 洞察度 6.00

引入 pp_sync 机制修复 HiCache + PP 崩溃

本 PR 核心设计值得精读,特别是 `_pp_sync` 的设计:利用 `isend/recv` 避免全局 barrier,减少同步开销。关注 `writing_check` 中 ack 队列消费的同步策略,这是一个典型的分布式状态一致性问题。如果团队计划支持 HiCache + PP + L3,建议以此 PR 为基础进行扩展。

缺陷修复 重要性 6.26 洞察度 6.00

修复 fa3 EAGLE draft-decode page_table scatter OOB

值得合并与精读。本 PR 修复了一个隐蔽的静默内存损坏 bug,展示了 cuda-graph 元数据构造中一个微妙的维度不匹配问题。建议关注:1) `cache_loc` 切片与 `page_size == 1` 分支的对齐设计;2) 始终启用断言作为安全网的做法;3) revert 开关的注册方式,这是一种低成本 A/B 调试基础设施。

功能 重要性 9.00 洞察度 5.00

新增 Apertus2509 工具调用与推理块解析器

该 PR 设计思路清晰,遵循了现有解析器框架的扩展模式,是添加新模型格式的良好范例。建议阅读 `apertus2509_detector.py` 和 `reasoning_parser.py` 的源码,了解如何集成 tool call 与 reasoning 解析。对于需要支持相似自定义格式的开发者,该 PR 提供了可复用的模式。

#27419 fix test_qwen3_next_models flaky

原始 PR · 作者 hanming-lu · 合并时间 2026-06-06 14:26

缺陷修复 重要性 4.01 洞察度 2.00

调大 KL 散度阈值修复测试 flaky

变更简单直接,无需精读。可作为测试稳定性维护的参考案例。

#26588 Optimize Gemma4 H200 MoE and extend attention

原始 PR · 作者 BBuf · 合并时间 2026-06-06 14:14

性能优化 重要性 7.16 洞察度 7.00

优化 Gemma4 H200 MoE 与 extend attention 性能

推荐精读。尤其注意 kernel dedup 设计方法和 BF16 精度分析。对于 Gemma4 部署有直接收益;对编写数值稳定的 Triton kernel 有参考价值。

参与讨论