Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-06-07 12:34 同步状态:空闲 下次计划:2026-06-07 13:34

PR 列表

更多筛选
2026-04-01
缺陷修复 重要性 6.00 洞察度 5.00

修复macOS上Python 3.12+中Triton stub子模块导入失败的bug。

该PR值得精读,尤其对于处理Python导入系统兼容性、macOS/MPS环境集成或代码重构的工程师。关注点包括: - `find_spec`方法的实现细节,展示了如何动态模拟模块和子模块。 - 从`find_module`/`load_module`到`find_spec`的迁移决策,体现了对Python版本演进的适应。 - 讨论中如何通过测试验证修复,确保跨Python版本的兼容性。

缺陷修复 重要性 5.00 洞察度 4.00

修复CI失败分析脚本,仅使用最近运行数据避免旧runner干扰,并添加失败job列表用于调试。

建议负责CI基础设施或监控的工程师精读此PR,重点关注数据范围缩小的设计权衡(如何平衡历史覆盖与性能),以及新增失败记录功能的实现细节,以借鉴于类似监控脚本优化。

缺陷修复 重要性 5.00 洞察度 3.00

修复 Docker 镜像中的安全漏洞和构建错误,显著降低 CVE 数量。

建议安全团队和 DevOps 工程师精读此 PR,特别是关注 Dockerfile 中构建优化和清理机制的设计,以及依赖升级的版本管理,有助于提高容器化部署的最佳实践。

#17122 [bugfix]GLM-4V model

原始 PR · 作者 KnightLTC · 合并时间 2026-04-01 10:37

缺陷修复 重要性 5.00 洞察度 3.00

修复GLM-4V模型在VisionAttention中因num_dummy_heads计算缺失导致的dist_utils.divide异常。

对于从事NPU开发、多模态模型维护或视觉语言模型集成的工程师,建议精读此PR以理解num_dummy_heads参数传递和硬件兼容性处理;同时关注测试准确性问题的后续解决。

#21763 [diffusion] CI: improve ci reliability

原始 PR · 作者 mickqian · 合并时间 2026-04-01 10:06

基础设施 重要性 5.00 洞察度 5.00

为扩散测试添加URL下载重试和超时错误处理,提高CI稳定性。

建议阅读者关注重试机制的设计和异常处理细节,注意review中提到的潜在问题,对于类似CI改进项目,此PR展示了如何通过代码优化提升测试稳定性。

功能 重要性 4.00 洞察度 3.00

为 run_eval 添加延迟和吞吐量指标,支持 CI 回归检查。

建议对 CI 工程师和测试开发者精读,以了解新的 metrics 计算方式;对于其他开发者,快速浏览即可。

功能 重要性 5.00 洞察度 5.00

为diffusion服务器添加uvicorn访问日志前缀排除功能,减少噪声日志。

该PR值得快速浏览,关注日志过滤器的实现细节(如`_UvicornAccessLogFilter`类中从`record.args`提取路径的方法),但无需深入分析,因变更较小且直白。

#21709 Fix draft extend cuda graph when spec_step=1

原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-04-01 09:29

缺陷修复 重要性 4.00 洞察度 3.00

修复spec_step=1时CUDA图支持判断错误,确保草稿扩展使用正确后端。

该PR值得精读,展示了草稿扩展中后端选择与CUDA图支持的耦合关系。关注点:1. draft_attn_backend与draft_extend_attn_backend的职责分离;2. HIP代码块未修复的潜在问题;3. 后端类名重构的上下文。

参与讨论