为AMD CI添加DSV4精度测试门控
值得阅读,展示了CI门控设计模式(按事件类型过滤、组合cron与PR触发、条件跳过测试),适合作为CI配置参考。
SGLang is a high-performance serving framework for large language models and multimodal models.
为AMD CI添加DSV4精度测试门控
值得阅读,展示了CI门控设计模式(按事件类型过滤、组合cron与PR触发、条件跳过测试),适合作为CI配置参考。
原始 PR · 作者 JustinTong0323 · 合并时间 2026-06-12 14:37
修复 maturin 1.14 下 gateway 构建失败
值得合并,修复构建阻塞问题。变更简洁明了,逻辑清晰。建议读者关注其中的工作区设计模式——通过声明工作区解决 maturin 路径校验问题,而非逐个脚本固定 maturin 版本,是一种更优雅的解决方案。
原始 PR · 作者 arathi-hlab · 合并时间 2026-06-12 14:36
XPU CI新增多特性与Embedding测试
此 PR 适合作为 XPU CI 测试模板参考,尤其是单一 fixture 覆盖多特性的设计模式。建议关注 `register_xpu_ci` 注册机制和 `CustomTestCase` 基类的使用方式。对于 Intel XPU 开发者,可从此测试用例中学习如何编写类似的功能验证测试。
主动释放SWA窗口外KV槽位,优化长上下文内存使用
值得精读,尤其是组件级hook设计和页面边界保护逻辑(`page_size`减一策略),以及如何通过环境变量平滑引入行为变更。
原始 PR · 作者 RolaoDenthu · 合并时间 2026-06-12 14:13
统一KV缓存SWA位置计算每步仅一次
值得阅读,展示了如何通过简单的缓存减少热路径上的重复计算以获得可观的性能收益。设计模式(元数据缓存 + 回退)可推广到其他层间共享的计算。
消除 VLM 嵌入路径中的 CUDA 同步
值得精读:作者识别并消除了典型 CUDA 同步模式,使用 masked_scatter_、CPU 偏移计算和预计算哈希三种互补技术。设计讨论展示了务实的工程权衡(推迟不常见优化)。
移除 AMD CI 中过时的 ROCm 7.2 hotpatch
该 PR 是简单的清理工作,无需重点阅读。但可以作为 AMD CI 维护者了解历史 hotpatch 的参考。
固定 maturin 版本 <1.14 修复 AMD Docker 构建
值得合并,属于阻塞性修复。建议后续跟踪 maturin 1.14.x 的问题,并在修复后解除版本锁定。
参与讨论