#38067 [Profiler] Add SGLANG_PROFILE_BY_STAGE_DECODE_MIN_BS to defer the decode-stage capture
原始 PR · 作者 hanming-lu · 合并时间 2026-09-05 06:12
功能
重要性 5.60
洞察度 5.00
新增环境变量延迟解码阶段性能采集,提升 batch-size 基准测试的代表性。
这是一个小而精的工具增强,值得所有关注性能分析或使用 `profile_by_stage` 的开发者快速浏览。它展示了一个简单但有效的设计模式:通过引入一个带安全默认值的配置来控制已有行为,以增强工具的适用场景。代码逻辑清晰,实现直接,可以快速审阅。