新增 Nemotron 3 Ultra cookbook 文档和交互式部署生成器
值得精读的文档 PR,特别是交互式生成器的验证矩阵设计模式,可用于其他模型的 cookbook 开发。关注其验证逻辑与文档同步机制,对后续文档自动化有参考价值。
SGLang is a high-performance serving framework for large language models and multimodal models.
新增 Nemotron 3 Ultra cookbook 文档和交互式部署生成器
值得精读的文档 PR,特别是交互式生成器的验证矩阵设计模式,可用于其他模型的 cookbook 开发。关注其验证逻辑与文档同步机制,对后续文档自动化有参考价值。
原始 PR · 作者 alphabetc1 · 合并时间 2026-06-04 15:10
移动 SWATokenToKVPoolAllocator 至 allocator/swa.py
该 PR 适合所有 mem_cache 模块的开发者精读。值得关注的设计决策包括:1) 通过 `git blame -C` 保留历史的方法;2) 不在 `__init__.py` 中重新导出的原因(避免循环导入);3) 机械重构时的零风险迁移实践。对于普通使用者,只需知道这是纯重构即可。
降低 Mamba 预填充内存分配开销
该 PR 值得精读,尤其是 MambaPool 分组分配的设计模式,可以推广到其他类似的热点分配路径。关注 `alloc_group_end` 的提前释放逻辑和与现有 `free` 调用的交互。建议添加单元测试覆盖分组分配的正确性(例如分配后释放、迭代器耗尽回退等场景)。
原始 PR · 作者 yctseng0211 · 合并时间 2026-06-04 14:34
移除 GLM-5.x 夜间 CI 的 transformers 版本锁定
该 PR 值得合入,因为它解决了因依赖版本不一致导致 CI 故障的问题。建议合入后观察一轮夜间 CI 结果,确保 GLM-5.x 测试通过。
原始 PR · 作者 ShangmingCai · 合并时间 2026-06-04 14:20
修复 CI 路径过滤器遗漏 observability 目录
该 PR 改动极小,但修复了关键的 CI 过滤漏洞。建议: - 审核 CI 配置的路径过滤逻辑,确认是否有类似遗漏(如其他共享模块目录是否被正确包含)。 - 建议精简 CI 工作流中重复的过滤条件,避免后续维护负担。
修复 Qwen3.5 在 AMD 上 EP 模式下共享专家权重重复累加
该 PR 是 AMD 平台的关键 bugfix,值得精读其根因分析方法和跨后端比较思维。建议后续为 Qwen2MoE 添加针对 EP 缩放系数的单元测试以避免回归。
添加 LoRA 模块 Codeowner
变更简单明确,无需深度 review。可快速合并。
原始 PR · 作者 FredHuang99 · 合并时间 2026-06-04 13:40
分离扩散模型解耦参数与预热工具类
该 PR 是解耦扩散基础设施重构的核心环节,值得精读以理解参数模型和端点推导的设计。特别关注 `DisaggServerArgsMixin` 的方法设计和兼容垫片的实现,以及 `decoder_tp` 到 `decoder_sp` 的别名处理逻辑。
参与讨论