SGLang is a high-performance serving framework for large language models and multimodal models.
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-05-04 15:37
为 Torch 2.11 准备 Docker 镜像并修复 cu129 构建
对于大多数开发者，此 PR 属于基础设施变更，无需深入阅读。但对于 CI/CD 维护者和 Docker 镜像消费者，建议关注标签策略迁移部分。设计模式值得注意：使用版本别名实现向后兼容过渡，以及通过 `--no-deps` 精确控制依赖版本的方法。
为 MI35x ROCm 7.2 添加 DSv4 Flash/Pro 的 nightly 测试
建议阅读工作流中关于避免重建 sglang/aiter 的技巧（`--skip-sglang-build` 和容器路径隔离），以及动态解析最新 DSv4 镜像标签的做法。测试文件本身的模式可以作为后续添加类似模型的模板。
修复 SWA chunked request 在 KV 缓存回缩时的 stash 误触发
值得精读。该 PR 展示了如何通过一个简单的门控标志位解决状态损坏问题，同时配套了高质量的回归测试（包括辅助函数和清晰的场景划分）。建议关注 _chunked_req_scheduled_last_iter 的设置时机和后续维护。
CODEOWNERS 新增 ngram 文件所有者
无需精读。这是一个常规的运维配置变更，技术含义简单直接。值得关注的是其遵循了代码所有权的最佳实践——在添加所有者时保留现有所有者，避免意外移除。
NextN子类自行控制is_nextn，修复BailingMoe bug
建议精读，这是消除中心化架构匹配、向下类委托职责的典型重构，设计思路清晰，适合作为模块解耦的参考。
提取 state_kv_args 设置到共享辅助函数
值得批准。PR 遵循 DRY 原则，代码清晰，且修复了一个隐藏的 bug。建议合并。
抽取 hybrid SWA 层调整逻辑为独立方法
值得快速合并，为后续大 PR 降低冲突风险。精读价值中等，可关注其作为安全重构的实践示例。
原始 PR · 作者 yushengsu-thu · 合并时间 2026-05-04 09:44
启用 csgmv 后端与 MoE 虚拟专家组合，修复 CUDA graph 崩溃
建议阅读。PR 展示了如何在不同 LoRA 后端（triton vs chunked）之间抽象 per-request 路由信息，修复了因语义差异导致的崩溃。设计上采用可选回退模式，保证了向后兼容。但需注意代码中的 `torch.arange pin_memory` 错误需要尽快修复，且应补全测试。
参与讨论