Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-02 20:51 同步状态:空闲 下次计划:2026-09-02 21:51
后台正在同步并分析最近 PR,页面会自动刷新并逐步显示最新结果。

PR 列表

更多筛选
2026-08-07
缺陷修复 重要性 8.12 洞察度 6.00

修复 prefill CP BCG 图容量溢出,自动选择更大的捕获 bucket 重放

值得精读 `python/sglang/srt/layers/cp/bcg.py` 中 `required_local_tokens` 与 `select_replay_bucket` 的配套设计:用“所有 rank 最大需求”作为跨 rank 共识、准入与重放共用同一选择器是两个可复用的模式。建议合并前确认 `test_gqa_prefill_cp.py` 的失败是否为回归;另外可在代码中补充 `bucket_local_tokens` 在 capture 阶段的填充时机说明,便于后续维护。

基础设施 重要性 6.72 洞察度 5.00

共享 VLM engine,精简 H100/H200 CI 测试矩阵

值得负责 CI 与长测试套件的工程师精读。重点看三个设计决策:一是 `_start_engine` + `tearDownClass` 的组合如何用类级共享把 engine 启动成本摊薄,同时借 `CustomTestCase` 保证异常路径下的清理;二是 `stage="extra-a"` 的 label-gated 拆分方式与共享 fixture 常量的配套;三是“保持矩阵对角、skip 替代删除”的覆盖维护思路。普通功能开发者可略读,仅需知道 per-commit 测试结构有了变化。

#33616 feat: Add flashinfer mHC fusion for DSV4

原始 PR · 作者 trevor-m · 合并时间 2026-08-07 16:01

功能 重要性 7.27 洞察度 4.00

新增 DSV4 mHC 的 FlashInfer 后端,默认关闭,可切换备选融合实现。

该 PR 代码量小(86 行),但值得精读 `_flashinfer_mhc_pre_num_splits` 的 split-K 选择策略与 `hc_pre`/`hc_post` 的分支优先级安排,作为多后端融合实现的参考。若计划在生产环境启用,建议先补充数值一致性测试,并关注 FlashInfer 上游 API 变更。

缺陷修复 重要性 5.94 洞察度 4.00

SP 守卫限定,修复单秩 masked 路径 CI 失败

值得精读。这是一个小而关键的回归修复,展示了“守卫条件必须与实际运行模式对齐”的工程原则。阅读 `layer.py` 的守卫逻辑变化和新增测试,可学习如何在分布式与单秩之间精确收窄保护范围。建议快速合并,并关注后续 SP 场景的回归测试。

缺陷修复 重要性 6.14 洞察度 4.00

DSpark 分数模拟接受长度改为每步重采样

值得精读。这个 PR 虽然只有 21 行改动,但体现了两个可复用的设计决策:一是把私有的模拟接受长度采样函数公开为共享 API,避免 DSpark 与 MTP/DFlash 各自实现导致的口径漂移;二是 CUDA Graph 场景下“缓存 tensor + 就地 fill_ 刷新”的模式,兼顾分配开销与每次验证的动态性。若你负责投机解码或 benchmark 工具链,建议结合 `SGLANG_SIMULATE_ACC_LEN` 的文档理解其语义演变。

测试 重要性 3.46 洞察度 3.00

Z-Image CI 移除显式 Ulysses,覆盖默认 SP 路径

不值得精读,但建议在阅读 PR #33923(zimage 注意力路由 USPAttention)时一并查看本 PR,理解默认并行路径覆盖意图。关注点:确认自动策略选择在 Z-Image 上实际会落到默认 SP 交换而非 fallback 到其他并行;后续若默认策略变化,这两个用例可作为哨兵。

缺陷修复 重要性 6.96 洞察度 5.00

修复 MiniMax-H3 文本编码器在 CPU offload 下的设备错配

值得精读。该 PR 用很小的改动解决了一个隐蔽的分布式推理陷阱——把“参数存储设备”当作“计算设备”。`device` 属性语义的定义、docstring 对 FSDP offload 的解释,以及测试中通过 `__new__` 构造轻量实例的技巧,都值得后续实现 offload 组件时参考。

基础设施 重要性 5.25 洞察度 4.00

MI355X 新增 GLM-5.2 MXFP4 四类 1P1D 夜测 recipe

值得快速浏览以了解 AMD MI355X CI recipe 的结构与 launcher 路径约定,但无需精读,因为全部为配置变更。更值得关注的是被暴露的 DSA + NextN + DP-attention 崩溃 bug,建议跟踪其后续修复 PR,并留意 model_path 从 5.1 切换到 5.2 checkpoint 的跟进 PR。合并决策本身合理:3/4 腿验证通过且改动不触碰现有配置。

参与讨论