修复 AMD CI 音频转录测试的随机失败
可直接合并。此 PR 虽小,但体现了在 CI 稳定性维护中通过明确测试参数来消除不确定性的良好实践。
A high-throughput and memory-efficient inference and serving engine for LLMs
修复 AMD CI 音频转录测试的随机失败
可直接合并。此 PR 虽小,但体现了在 CI 稳定性维护中通过明确测试参数来消除不确定性的良好实践。
原始 PR · 作者 hyeongyun0916 · 合并时间 2026-06-26 20:02
为 render 端点添加可选 token offsets
值得精读。该 PR 设计严谨(显式能力模型、静态判断优先)、讨论深刻(测试策略、统一调用路径),并明确文档化已知局限。适合作为前端 API 演进的样板 PR。
修复 AITER 升级后 unified attention 分发断言失败
值得精读,特别是对 ROCm 注意力后端的选择和测试模式感兴趣的同学。该 PR 体现了升级上游依赖(AITER)后如何快速定位并修复兼容性问题,以及如何通过声明式约束和测试调整来保证正确性。此外,AMD CI 构建步骤硬失败的配置变更也值得关注。
原始 PR · 作者 AgenticSpark · 合并时间 2026-06-26 16:02
从文档中移除已删除模型的引用
该 PR 是典型的文档维护工作,不值得精读。但它体现了保持文档与代码同步的良好实践,值得所有贡献者学习。
将遗留 API server 移至 examples 目录
该 PR 属于代码组织清理,值得精读以了解项目结构演进。更推荐关注后续是否会在 examples 中进一步维护或废弃该遗留 server。
修复 PoolsideV1 工具解析器的空白处理和工具选择冲突
值得精读——该 PR 展示了在工具解析器中处理两种不同 API 协议下的工具形状差异(嵌套 vs 扁平)的兼容模式,以及如何通过 early return 避免 JSON 引导与原生模板的冲突。测试设计也值得参考(分别覆盖 ChatCompletion 和 Responses 的 required/named 路径)。建议关注 #39870 类似的跨 API 兼容性修复模式,并留意未来迁移到统一 parser engine 的演进方向。
原始 PR · 作者 xianbaoqian · 合并时间 2026-06-26 14:02
删除 Grok 模型架构及全部配套代码
该 PR 是一个典型的移除过时功能的清理操作,展示了如何系统性地删除一个模型架构及其配套组件。对于仓库维护者,建议关注类似的低使用率模块清理。对于其他开发者,可学习此类 PR 的完整覆盖模式(核心实现、tokenizer、renderer、注册表、配置、测试、文档)。
原始 PR · 作者 peizhang56 · 合并时间 2026-06-26 13:38
修复 ROCm 上 mm cache 测试因 fork 继承 HIP 上下文失败
值得合并。这是一个最小修复,精准针对 ROCm HIP 上下文 fork 问题,且已通过测试验证。可作为在 ROCm 测试中处理多进程测试启动方式的参考。
参与讨论