修复macOS上Python 3.12+中Triton stub子模块导入失败的bug。
该PR值得精读,尤其对于处理Python导入系统兼容性、macOS/MPS环境集成或代码重构的工程师。关注点包括: - `find_spec`方法的实现细节,展示了如何动态模拟模块和子模块。 - 从`find_module`/`load_module`到`find_spec`的迁移决策,体现了对Python版本演进的适应。 - 讨论中如何通过测试验证修复,确保跨Python版本的兼容性。
SGLang is a high-performance serving framework for large language models and multimodal models.
修复macOS上Python 3.12+中Triton stub子模块导入失败的bug。
该PR值得精读,尤其对于处理Python导入系统兼容性、macOS/MPS环境集成或代码重构的工程师。关注点包括: - `find_spec`方法的实现细节,展示了如何动态模拟模块和子模块。 - 从`find_module`/`load_module`到`find_spec`的迁移决策,体现了对Python版本演进的适应。 - 讨论中如何通过测试验证修复,确保跨Python版本的兼容性。
修复CI失败分析脚本,仅使用最近运行数据避免旧runner干扰,并添加失败job列表用于调试。
建议负责CI基础设施或监控的工程师精读此PR,重点关注数据范围缩小的设计权衡(如何平衡历史覆盖与性能),以及新增失败记录功能的实现细节,以借鉴于类似监控脚本优化。
原始 PR · 作者 Kangyan-Zhou · 合并时间 2026-04-01 11:07
修复 Docker 镜像中的安全漏洞和构建错误,显著降低 CVE 数量。
建议安全团队和 DevOps 工程师精读此 PR,特别是关注 Dockerfile 中构建优化和清理机制的设计,以及依赖升级的版本管理,有助于提高容器化部署的最佳实践。
修复GLM-4V模型在VisionAttention中因num_dummy_heads计算缺失导致的dist_utils.divide异常。
对于从事NPU开发、多模态模型维护或视觉语言模型集成的工程师,建议精读此PR以理解num_dummy_heads参数传递和硬件兼容性处理;同时关注测试准确性问题的后续解决。
为扩散测试添加URL下载重试和超时错误处理,提高CI稳定性。
建议阅读者关注重试机制的设计和异常处理细节,注意review中提到的潜在问题,对于类似CI改进项目,此PR展示了如何通过代码优化提升测试稳定性。
为 run_eval 添加延迟和吞吐量指标,支持 CI 回归检查。
建议对 CI 工程师和测试开发者精读,以了解新的 metrics 计算方式;对于其他开发者,快速浏览即可。
原始 PR · 作者 alphabetc1 · 合并时间 2026-04-01 09:31
为diffusion服务器添加uvicorn访问日志前缀排除功能,减少噪声日志。
该PR值得快速浏览,关注日志过滤器的实现细节(如`_UvicornAccessLogFilter`类中从`record.args`提取路径的方法),但无需深入分析,因变更较小且直白。
原始 PR · 作者 Qiaolin-Yu · 合并时间 2026-04-01 09:29
修复spec_step=1时CUDA图支持判断错误,确保草稿扩展使用正确后端。
该PR值得精读,展示了草稿扩展中后端选择与CUDA图支持的耦合关系。关注点:1. draft_attn_backend与draft_extend_attn_backend的职责分离;2. HIP代码块未修复的潜在问题;3. 后端类名重构的上下文。
参与讨论