Prhub

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

监控状态:已开启 最近同步:2026-09-04 00:39 同步状态:空闲 下次计划:2026-09-04 01:39

PR 列表

更多筛选
2026-06-16
基础设施 重要性 5.44 洞察度 3.00

为AMD Miles项目添加 nightly Docker 构建工作流

建议合并。该 PR 解决了 Miles 项目的基础设施需求,且方案简单、复用现有配置。合并后可考虑添加失败通知(如 Slack)并定期检查 secret 有效性。其他团队如需类似 nightly 构建可参考此模式。

性能优化 重要性 6.85 洞察度 7.00

MLA decode q-heads 填充至64以加速FlashMLA kernel

值得精读。该 PR 展示了如何通过理解底层 kernel 的 specialization 条件,以极小的代码改动(+21/-5)获得显著的性能提升。核心思路——“在满足 kernel 约束最小化的前提下填充而非总是填充到最大值”——可推广到其他类似场景。同时,`_attn_sink_local` 的懒初始化模式避免了 CUDA graph 内的冗余操作,是面向 GPU 图捕获性能优化的良好实践。

功能 重要性 5.14 洞察度 3.00

TRT-LLM MHA draft extend 使用 decode kernel

建议合并,但需确保 CI 中覆盖了 TRT-LLM MHA 后端 + speculative decoding 的测试用例。同时,未来可考虑增加对应的回归测试。

基础设施 重要性 8.79 洞察度 6.00

CI 启动时自动清理泄漏的共享内存段

值得精读,尤其是其降级策略设计:通过命名嵌入 PID、仅 CI 激活、最佳努力清理不阻塞启动等。可作为容器中资源泄漏处理的参考模式。建议开发者和基础设施维护者关注 `cleanup_stale_shm` 的门控机制和异常处理模式。

功能 重要性 5.55 洞察度 5.00

MTP callout 提示 + 技能文档同步

值得查阅,特别是技能文档的 benchmark 规则部分,对 cookbook 作者有约束力。UI 提示的设计(flag-based 而非 strategy-based)也值得借鉴。

#28342 [misc] Update codeowner

原始 PR · 作者 Fridge003 · 合并时间 2026-06-16 05:42

基础设施 重要性 2.52 洞察度 1.00

更新 CODEOWNERS 文件,添加新维护者

此类基础设施配置变更简单明确,无需深入审查。但建议确保被添加的维护者知情并同意承担相应职责。

其他 重要性 3.67 洞察度 2.00

修正 LFM2.5 文档描述以提高准确性

该 PR 是纯文档改进,可以快速合并。对于技术管理者,无需精读;对于工程师,如果涉及 LFM2.5 模型的集成或调试,建议参考更新后的 cookbook 以获取准确架构信息。

参与讨论