Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-02 19:48 同步状态:空闲 下次计划:2026-09-02 20:48

PR 列表

更多筛选
2026-03-24
功能 重要性 6.00 洞察度 6.00

为混合Mamba模型添加Mamba状态卸载支持和混合缓存控制器,提升缓存命中率。

建议工程师重点阅读`hybrid_cache_controller.py`和`hi_mamba_radix_cache.py`,关注`PoolTransfer`设计如何抽象多池传输,以及`MambaPoolHost`的布局优化对性能的影响。此PR展示了缓存系统可扩展性的重要演进,适合学习分层缓存设计。

缺陷修复 重要性 6.00 洞察度 7.00

修复Z-Image序列并行sharding,支持肖像和填充分辨率,避免图像损坏。

建议技术管理者和工程师精读此PR,特别是_build_zimage_sp_plan的设计决策和denoising.py中的gather逻辑修改,以理解序列并行中处理图像几何形状的技术权衡。关注风险点,确保测试充分覆盖新路径,并评估对其他管道的潜在影响。

缺陷修复 重要性 5.00 洞察度 4.00

修复 GLM-V 和 GLM-OCR 模型中的配置检测错误和 MTP 接受率问题,提升与 transformers 5.x 的兼容性。

建议工程师精读此 PR,特别是 `weight_utils.py` 中的配置检测逻辑和 `glm_ocr.py` 的设计修正,以了解模型兼容性处理的最佳实践。关注 MTP 相关权重的加载顺序调整,这对于 speculative decoding 性能优化有参考价值。

基础设施 重要性 4.00 洞察度 5.00

将 CI 测试工作流拆分为多个文件,提升维护性。

建议工程团队,特别是负责 CI 的开发者,精读此 PR 以了解 GitHub Actions 可重用工作流的设计模式,重点关注环境变量继承机制和变化检测更新。对于技术管理者,可关注其作为基础设施重构的最佳实践案例。

#21202 docs: improve CI and testing documentation

原始 PR · 作者 merrymercy · 合并时间 2026-03-24 01:48

文档 重要性 4.00 洞察度 4.00

改进 CI 和测试文档,提供清晰指导并修复相关测试文件。

该 PR 值得快速浏览,特别是 test/README.md 的更新,对于理解项目 CI 结构和测试指南有直接帮助。代码变更部分如 sys.exit 修复和路径调整值得关注,可检查类似问题在其他地方是否已解决。对于技术管理者,可参考文档改进作为最佳实践。

功能 重要性 6.00 洞察度 5.00

为AMD平台添加GemmaRMSNorm的fused HIP前向方法,提升Qwen3.5模型性能。

建议精读此PR以学习AMD平台上的性能优化策略,关注forward_hip方法中的kernel路由设计、回退机制和Gemma特定偏移处理,这些是设计决策的核心。对于从事硬件后端优化的工程师,此PR提供了融合kernel集成的实际案例。

参与讨论