Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-04 03:57 同步状态:空闲 下次计划:2026-09-04 04:57

PR 列表

更多筛选
2026-06-09
功能 重要性 9.36 洞察度 7.00

为 SANA-WM 世界模型添加扩散、流式与实时推理支持

建议精读。该 PR 设计具有较高参考价值:自强迫去噪的流式框架、GDN/Softmax 混合注意力实现、实时链式状态管理。重点关注 `streaming.py`、`self_forcing.py` 和 `realtime_chain.py` 中的模式,便于后续集成其他世界模型。

2026-06-08
基础设施 重要性 4.83 洞察度 5.00

sgl-kernel 构建支持可配置镜像源,适配受限网络

此 PR 是 sgl-kernel 构建基础设施的关键改进,尤其适合有内部镜像需求的企业用户。建议重点阅读 Dockerfile 中的 yum 镜像替换模式以及 CMakeLists.txt 中从 GIT_REPOSITORY 迁移到 URL 的写法,这些模式可复用于其他构建项目。

#27555 [AMD] update ROCm AITER commit

原始 PR · 作者 bingxche · 合并时间 2026-06-08 23:49

基础设施 重要性 2.83 洞察度 1.00

更新ROCm Docker镜像中AITER依赖版本

此PR为常规的依赖版本更新,无需深入代码审查。建议关注AMD CI结果,确认新AITER版本通过所有测试。如果后续出现与AITER相关的回归,可以追溯到此commit。

基础设施 重要性 6.79 洞察度 4.00

MUSA CI: 修复 torchada 锁清理并新增 LLM Server 冒烟测试

建议精读并关注设计决策:CI 注册模式(AST 解析注册)、锁清理的防御性编程模式(进程检测+目录检查)值得在类似场景复用。对于 MUSA 平台维护者,应关注测试稳定性;对于 CI 团队,可参考其工作流定义模板。

功能 重要性 7.12 洞察度 4.00

新增权重加载耗时 Prometheus gauge 指标,区分四类来源

建议合并。设计清晰:采用上下文管理器复用计时逻辑,source 标签区分来源,multiprocess_mode='mostrecent' 适配 Prometheus 多进程模式。防御性处理可选 collector,确保向后兼容。

重构 重要性 7.52 洞察度 6.00

NPU 测试代码去重与重构,使用 Mixin 消除重复 GSM8K 测试逻辑

值得精读,展示了如何通过 Mixin 模式重构大型测试套件中的重复代码,是测试基础设施优化的良好实践。需特别关注 Review 中尚未完全解决的属性名不匹配问题,以及权重路径是否使用缓存。

重构 重要性 5.97 洞察度 5.00

HiCache 不再缓存 C128 State 池

该 PR 值得精读,展示了如何分析缓存系统中无效的池注册问题,并进行针对性优化。设计决策(基于页大小整除性判断 State 是否可被读取)值得类似场景借鉴。

参与讨论