Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态：已开启 最近同步：2026-09-03 22:27 同步状态：空闲 下次计划：2026-09-03 23:27

PR 列表

最近 1 天 最近 3 天 最近 7 天
更多筛选
标签聚合 仓库周报
2026-05-06
缺陷修复 重要性 6.79 洞察度 4.00

处理 NIXL 远程断开异常，防止 KV 传输中断崩调度器

该 PR 值得精读，展示了在不改变外部接口的前提下，通过状态化错误处理来增强健壮性的实践。特别关注 commit 历史中从宽泛的 `RuntimeError` 捕获到精确异常捕获的演进过程，体现了防御式编程的设计权衡。

bugfixscheduling
功能 重要性 5.67 洞察度 4.00

在 batch invariant 模式中注册 rms_norm 和 mm.dtype

该 PR 逻辑清晰、改动精简，值得关注的是其对 batch-invariant 兼容层的扩展模式，展示了如何为更多 ATen 算子添加确定性支持。建议后续测试覆盖新增算子的确定性行为。

deterministicperformancefeature
功能 重要性 5.51 洞察度 4.00

新增 fwd_occupancy 指标并暴露到 Prometheus

值得快速合并。该 PR 改动量小、逻辑清晰，且补充了关键的可观测性指标。建议在合并后补充自动化测试，确保 `/metrics` 端点包含该指标。同时，后续可以考虑集成 GPU 硬件占用率作为补充。

observabilityfeatureperformance
缺陷修复 重要性 6.38 洞察度 6.00

修复请求池大小不匹配导致的越界访问与性能退化

值得精读。本 PR 展示了如何从性能回归测试逆向追踪到 off-by-one 数据大小偏差，以及如何通过内部 `_alloc_size` 解耦池逻辑与消费者，体现了防御性编程思路。修改量不大但定位精准，非常适合作为代码审查和回归根因分析的案例。

bugfixperformancescheduling
缺陷修复 重要性 7.91 洞察度 2.00

回退多 tokenizer worker 下 pause/continue 修复，恢复旧 bug 状态

值得关注此 PR，因为它反映了 CI 门禁和绕过权限的治理问题。后续应跟踪 #24445 的修正版重新提交，并补充分布式场景的集成测试。建议阅读 #24445 的设计讨论了解原始方案的权衡。

bugfixci
缺陷修复 重要性 7.91 洞察度 6.00

修复多 tokenizer worker 下暂停/继续生成不一致的 bug

推荐精读 `MultiTokenizerRouter.router_worker_obj` 的广播实现和 `MultiHttpWorkerTokenizerMixin` 的广播处理逻辑，可作为多进程间状态广播的参考设计。建议关注 follow-up：通过 op_id 映射修复并发竞态条件。

bugfixperformancescheduling
基础设施 重要性 4.82 洞察度 2.00

升级 sgl-kernel 版本并移除 DeepGEMM 集成

该 PR 为基础设施清理（chore），核心有价值动作为移除 DeepGEMM 集成。建议合并前确认无隐藏依赖，其他版本升级部分可直接批准。

dependenciessgl-kernelrefactor

#24450 move topk capturers to srt/state_capturer/

原始 PR · 作者 hnyls2002 · 合并时间 2026-05-06 06:54

重构 重要性 6.33 洞察度 3.00

将 TopK 捕获器从 layers/ 移至 state_capturer/

作为纯重构，值得开发人员关注其设计动机：将不同职责的代码（计算层 vs 观测层）分离到对应的包层级。命名上避免与已有概念冲突的思考也值得借鉴。此 PR 展示了团队对代码组织一致性的追求。

refactorobservability

参与讨论