SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 AMD-yanfeiwang · 合并时间 2026-04-27 12:58
修复 EAGLE overlap 中 draft 与 verify 的 GPU 同步问题
值得合并。该修复解决了 AMD 平台 spec v2 数据竞态 bug，且方案在 NVIDIA 平台也验证有效。设计上使用 CUDA event 替代 wait_stream 实现更精确同步，也是正确方向。建议后续考虑 gemini-code-assist 的抽取建议提升代码质量。
修复 Grok-2 因 vision_config 误判多模态导致启动失败
该 PR 是一个高价值的小范围精确修复，PR body 分析清晰、根因定位准确、修改范围可控。适合作为修改配置检测逻辑的参考案例，其风险分析方式也值得学习。无需精读整条 pipeline。
更新 FA4 支持 SWA 的文档矩阵
可直接合并，无需进一步审查。
原始 PR · 作者 jasperjiaguo · 合并时间 2026-04-27 11:34
FP8 模型 PCG inductor 路径性能优化
值得精读，特别是 `_reshape_for_qk_norm` 函数中对不同后端的条件分支设计，以及 FP8 量化路径中如何利用 PyTorch 原生操作促进编译器融合。
统一 MoE 专家后 all-reduce 跳过条件到集中式 helper
值得精读：展示了通过集中化消除跨文件重复逻辑的优秀实践，特别是为 EP/TP 路径通过参数区分的设计可以复用。对于维护 MoE 并行逻辑的开发者，此 PR 是必读的基线变更。
原始 PR · 作者 sglang-bot · 合并时间 2026-04-27 11:17
更新 CI 测试预估时长以优化并行调度
该 PR 属于纯运维类更新，无设计决策需要关注。但对 CI 调度策略感兴趣的读者可以留意其测量和更新流程，以及 `est_time=0` 的遗留问题。建议后续补充校验逻辑，避免零值。
原始 PR · 作者 iridiumine · 合并时间 2026-04-27 10:44
Ascend NPU 上为 Qwen3.5 添加 MTP 推测解码支持
值得精读，特别是 NPU 注意力后端的架构设计以及如何复用 GPU 端的抽象接口。建议关注作者在 `attention_registry.py` 中的条件路由模式，以及使用 `ExitStack` 管理线程安全环境变量的做法。
新增 DeepSeek-V4 开发分支 Docker 构建选项
值得合并，变更清晰且经过充分测试计划。建议其他项目组参考此模式（通过 `branch` 字段和 tag 后缀实现多分支镜像构建）。
参与讨论