Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-03 02:24 同步状态:空闲 下次计划:2026-09-03 03:24

PR 列表

更多筛选
2026-04-08
缺陷修复 重要性 4.00 洞察度 3.00

修复Whisper模型输入特征未正确转移到GPU设备导致的运行时错误。

该PR值得快速浏览以了解设备同步问题的典型修复模式。重点关注:1)如何确定正确的目标设备;2)review中提到的更稳健设备获取方案为何未被采纳;3)可结合#22038理解延迟设备转移机制的背景。

测试 重要性 6.00 洞察度 5.00

为扩散模型 NVFP4 量化矩阵乘法添加 B200 GPU 正确性测试。

对于技术管理者,建议关注 CI 资源扩展和测试有效性,确保 B200 运行器可用性;对于工程师,该 PR 值得精读以学习量化正确性测试的设计模式,尤其是 DeepGEMM 式数值比较和尺度交织处理,可作为类似硬件特定测试的参考。

#22270 Refactor auto benchmark unit tests and fix CI bug

原始 PR · 作者 BBuf · 合并时间 2026-04-08 21:54

重构 重要性 4.00 洞察度 3.00

重构自动基准测试单元测试至模块化目录,修复 CI bug 并重新启用测试覆盖。

建议负责测试基础设施或自动基准测试的工程师精读此 PR,了解新的测试组织结构和共享辅助函数的设计。重点关注 `AutoBenchmarkTestCase` 基类的使用方式,以及如何通过模块化拆分提升可维护性;同时,留意避免路径硬编码的最佳实践,以优化 CI 环境中的测试执行。

#22266 [NPU] fix qwen3.5 video processor

原始 PR · 作者 zhaozx-cn · 合并时间 2026-04-08 21:13

缺陷修复 重要性 6.00 洞察度 6.00

修复 NPU 上 Qwen3.5 视频处理器因超过8维 permute 导致的执行失败。

建议 NPU 开发者和多模态功能维护者仔细阅读此 PR,重点关注维度处理逻辑和 review 中的修正点,以学习硬件适配策略和代码重构模式。对于涉及视频预处理或 NPU 优化的工程师,此 PR 提供了有价值的参考。

基础设施 重要性 3.00 洞察度 2.00

为CI测试作业设置无限内存缓冲,解决模型加载超时问题。

该PR变更简单直接,无需精读。值得关注的是CI环境中流式加载器的内存缓冲调优模式,可作为类似性能问题的参考。对于基础设施团队,可了解如何通过环境变量优化大型模型加载测试。

基础设施 重要性 2.00 洞察度 3.00

降低GPT-OSS 4GPU测试的准确度阈值,减少CI误报。

该PR变更简单直接,无需深入精读。值得关注的是其基于数据的阈值调整方法:通过分析历史运行数据(40次调度运行)确定合理阈值,可作为类似测试稳定性优化的参考案例。

缺陷修复 重要性 5.00 洞察度 4.00

修复HiCache备份方法返回类型不匹配导致的TypeError,确保写回模式下的父节点先备份约束。

该PR值得精读,重点关注:1. write_backup方法中write_back参数如何区分不同备份模式下的检查逻辑。2. evict方法中write_backup返回值的处理如何避免断言失败。这些设计决策体现了对缓存一致性约束的精细控制。

参与讨论