Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-06-07 10:11 同步状态:空闲 下次计划:2026-06-07 11:11

PR 列表

更多筛选
2026-06-07
2026-06-06

#27440 [Diffusion] Avoid GPU syncs in UniPC scheduler

原始 PR · 作者 BBuf · 合并时间 2026-06-06 22:01

性能优化 重要性 6.14 洞察度 6.00

用 torch.stack 替换 torch.tensor 避免 GPU 同步

值得精读,尤其关注如何在推理框架中通过简单代码替换消除隐式 GPU-CPU 同步。建议后续考虑采纳 reviewer 的 `torch.ones_like` 简化建议。

#26356 [NPU]Support torch_npu profiler patch API drift

原始 PR · 作者 L4-1024 · 合并时间 2026-06-06 21:27

缺陷修复 重要性 7.20 洞察度 4.00

新增 torch_npu 补丁 API 兼容层并更新调用方

建议 NPU 相关开发者阅读,该 PR 展示了如何平滑处理上游库的 API 漂移,并提供了可复用的兼容函数。单元测试覆盖了三种场景,值得参考。

文档 重要性 4.08 洞察度 2.00

更新 NPU 文档与 CI/Docker 配置以支持软件版本升级

该 PR 属于常规文档和配置更新,无需要重点关注的技术决策。NPU 相关开发者和用户可阅读了解最新版本要求。

#27426 Fix flaky test_self_e2e_pd_perturb

原始 PR · 作者 fzyzcjy · 合并时间 2026-06-06 19:31

缺陷修复 重要性 5.10 洞察度 7.00

修复KV校验测试因Radix缓存去重导致的flaky问题

值得精读PR body中的根因分析,它揭示了`cache_unfinished_req`与`send_kv_chunk`之间的时序竞态如何导致去重后的槽位被错误释放,是理解PD架构中KV传输、Radix缓存和canary验证三者交互的绝佳案例。

#27427 Add GB300 base C CI suite

原始 PR · 作者 Fridge003 · 合并时间 2026-06-06 17:27

基础设施 重要性 6.39 洞察度 5.00

在 CI 中添加 GB300 硬件测试套件并迁移 4-GPU 配置

值得精读,特别是 `test_numa_utils.py` 的重构模式和 `slash_command_handler.py` 中字段传递的设计。展示了如何在不入侵业务代码的前提下扩展 CI 硬件覆盖。对于需要新增 CI runner 的开发者有参考价值。

参与讨论