sgl-project/sglang

为 sgl-kernel 的架构检测函数添加缓存装饰器并增强健壮性。

该 PR 值得精读，尤其是 `cache_once` 装饰器的实现，它展示了如何为 `torch.compile` 兼容性设计轻量级缓存。关注点包括：装饰器的键设计、异常处理策略、以及如何统一跨模块的架构检测逻辑。对于涉及 PyTorch 编译或跨平台 GPU 代码的开发者，这是一个实用的参考案例。

为 Jiminator 用户添加 CI 权限，允许触发标签运行、重试失败 CI 和重试阶段。

该 PR 变更简单直接，无需精读。值得关注的点是 CI 权限管理机制，可通过配置文件灵活控制用户权限，适合基础设施维护者了解。

优化流式响应性能，将字符串拼接替换为整数偏移量以消除O(n²)开销。

该PR值得精读，展示了如何将O(n²)字符串操作优化为O(1)整数操作的设计决策。重点关注状态表示从字符串到整数的转变，以及首次块检测逻辑的显式化处理。同时，review中关于echo场景的偏移量修正揭示了流式处理中常见的时间状态跟踪陷阱，具有借鉴意义。

重命名会话计数函数并使用辅助函数简化流式会话检测。

建议快速浏览此 PR，重点关注命名改进和辅助函数的使用，以学习代码风格优化技巧。对于深入了解流式会话内存管理机制的工程师，可结合 #22651 和 #22753 阅读。

修复流式会话内存统计双计数问题，改用运行时计算活动池索引。

该PR值得精读，尤其是对于关注流式会话内存管理和调度器设计的工程师。重点关注从状态标志到运行时计算的架构转变，这种“单一事实来源”的设计模式在分布式或并发系统中常被用于避免状态不一致。同时，注意作者如何通过提交历史逐步重构，体现了良好的代码演进习惯。

修复EAGLE推测解码中基于语法的请求完成检测缺失导致的调度错误。

该PR值得精读，因为它揭示了推测解码中语法完成检测与请求状态同步的关键设计问题。关注点包括：验证循环内状态更新的顺序重要性，以及不同推测算法（EAGLE vs ngram）在数据结构设计上的差异如何影响错误修复范围。

为多 GPU 扩散模型自动启用 CFG parallel 以提升性能。

该 PR 值得精读，尤其关注 `_model_default_uses_cfg` 方法的设计：它基于模型默认采样参数动态判断 CFG 使用，避免了硬编码模型列表，提高了可扩展性。工程师可学习其通过运行时检查而非静态配置的权衡方案。

为统一radix缓存基准测试添加页面大小和滑动窗口注意力覆盖。

建议关注新增的_alloc函数和参数化测试设计，这对于理解缓存分配在SWA和不同页面大小下的行为有价值。如果是测试或缓存模块的开发者，值得精读以了解测试扩展方法。