Prhub

sgl-project/sglang · 标签视图

标签列表

聚合结果

profiling 相关 PR

2026-07-12

#30871 Add VLM prefill profiler ranges

原始 PR · 作者 mickqian · 合并时间 2026-07-12 14:07

性能优化 重要性 6.25 洞察度 3.00

VLM prefill 添加 profiler 命名范围

建议直接合并。该 PR 是低风险、高收益的性能可观测性改进,尤其对 VLM 模型调优有直接帮助。

2026-06-18
功能 重要性 8.76 洞察度 6.00

新增 Apple Silicon Metal 性能分析后端

值得精读。该 PR 展示了如何通过 backend patch 模式在 SGLang 中为新型硬件添加 profiling 支持,设计思路清晰,与已有 NPU 后端一致,可作为跨后端扩展的参考模板。对于 Apple Silicon 开发人员,还提供了详细的用法和验证结果。