Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 03:31 同步状态:空闲 下次计划:2026-09-03 04:31

PR 列表

更多筛选
2026-04-07

#22251 [diffusion] CI: fix consistency check

原始 PR · 作者 mickqian · 合并时间 2026-04-07 23:43

测试 重要性 4.00 洞察度 3.00

修复扩散模型CI一致性检查,移除不稳定测试用例并调整阈值配置。

建议精读以理解扩散模型测试的稳定性处理策略,关注阈值管理和测试用例选择的设计决策,以及CI环境优化的实践。

#22267 Move ring test to nightly

原始 PR · 作者 ispobock · 合并时间 2026-04-07 21:56

基础设施 重要性 2.00 洞察度 1.00

将Ring-2.5-1T模型测试从常规CI移至夜间测试套件,并添加软看门狗超时参数。

此PR变更简单,无需精读。值得关注的是review建议未被采纳,软看门狗配置可能无效,但鉴于这是测试配置调整,风险可控。建议后续如有类似测试迁移,可考虑采纳review建议以完善超时处理。

缺陷修复 重要性 3.00 洞察度 2.00

修复多模态模型PCG重放时input_embeds缓冲区清零逻辑错误。

该PR值得快速浏览,了解PCG缓冲区管理的细节。关注点:多模态模型缓冲区形状处理中的常见错误模式。建议后续补充单元测试以巩固修复。

功能 重要性 6.00 洞察度 6.00

添加外部线性注意力模型注册 API,简化新模型集成。

建议技术管理者精读此 PR,以了解注册 API 的设计决策,特别是如何保持向后兼容性和集成点设计。对于工程师,值得关注注册表模式和单元测试实现。

性能优化 重要性 5.00 洞察度 4.00

恢复MoE层topk后处理的torch.compile融合,修复性能回归。

该PR值得关注,尤其是对性能敏感的开发者和MoE模块维护者。虽然变更简单,但揭示了在重构时保持编译优化的重要性,以及review中性能意识的价值。建议结合PR #16945一起阅读,理解完整上下文。

文档 重要性 4.00 洞察度 3.00

新增HiSparse分层稀疏注意力功能的使用文档和配置指南。

建议文档维护者和使用HiSparse功能的工程师阅读此PR,以了解功能细节和配置方法。对于代码工程师,此PR无需精读,但可以作为文档示例参考或了解新功能背景。

修复NIXL异构TP下非MLA模型的KV传输死锁和头分布错误。

该PR值得精读,尤其是对解耦服务和异构TP架构感兴趣的工程师。关注点:1. send_kvcache_slice中头分布计算的改进,如何从每rank头数切换到总头数以处理GQA。2. RDMA通知键从pp_rank改为engine_rank的设计权衡,避免PP=1时的冲突。3. 与Mooncake实现对齐的决策,体现了代码复用和一致性。

测试 重要性 5.00 洞察度 4.00

为 AMD MI30x/MI35x GPU 添加 Qwen3.5-397B FP8 模型的夜间性能基准测试。

建议工程团队关注 CI 工作流的变更,确保性能测试步骤配置正确;性能测试文件中的代码重复问题值得后续重构以提升可维护性;对于学习测试框架设计,可参考 NightlyBenchmarkRunner 的使用模式。

参与讨论