SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 JessicaJiang-123 · 合并时间 2026-07-10 23:47
AMD MI35x 夜间测试镜像升级与工作流迁移
值得阅读以了解 AMD 基础设施的维护实践，尤其是 Docker 构建参数化的工作流设计。
为 UnifiedRadixTree 集成 int8 Mamba checkpoint 支持
建议所有涉及 Mamba 模型（如 GDN-hybrid、Qwen3-Next）部署的团队关注此 PR。值得精读的部分是 `_commit_int8_checkpoint` 如何利用 `store_from_active` 进行压缩，以及 `_free_mamba_value` 如何双路径释放。这体现了在不破坏现有路径的前提下扩展新功能的设计模式。
同步 diffusion 文档与降噪日志级别
该 PR 为典型的文档与维护性变更，可直接合并。适合所有关注 SGLang Diffusion 的用户阅读更新的文档，了解最新功能参数。
更新 CODEOWNERS 文件调整多模态模块维护者
该 PR 为常规维护操作，无需精读。其他开发者可忽略。
修复 ReplaySSM 在请求结束时缓存长度计算
建议后续跟进处理 review 中提出的两个边界情况：增加 `req.mamba_pool_idx` 的 None 检查以及 `cache_len` 的下限截断。同时，建议为 ReplaySSM 的缓存修正添加专门的单元测试，覆盖各种 write_pos 值和边界条件。
引入sglang.kernels统一命名空间并迁移52个triton_ops内核模块
该PR是关键的基础设施重构，值得内核开发者和架构师精读。推荐关注`fused_op.py`中BaseFusedOp合约和`spec.py`中元数据设计，未来新增内核应优先建立BaseFusedOp子类并注册到`sglang.kernels.ops.*`。审稿中未解决的PlatformInfo.detect异常处理问题建议在后续PR中跟进修复。
修复 diffusion BCG 输出生命周期并新增 CI 测试
建议仔细阅读 `breakable_cuda_graph.py` 中的 `eager_on_graph` 实现，理解桥接缓冲区生命周期管理的重要性。新增的 `test_eager_output_is_held_strongly_for_replay_bridge` 是一个优秀的回归测试示范，值得在其他类似场景中推广。CI 的 standalone 组织方式也值得参考。
原始 PR · 作者 sushildubey171 · 合并时间 2026-07-10 20:37
为 TiktokenTokenizer 添加 num_special_tokens_to_add 方法
PR 变更简单明了，值得快速合并。对于使用 Grok-2 等模型的团队，此修复解决了 benchmarking 流程中的阻断性 bug，建议在下一个版本中包含。
参与讨论