修复长期未在 CI 运行的内核测试代码
建议批准合并。此 PR 是 CI 基建的重要一环,使之前被排除的测试重新得到验证。值得关注的设计决策包括:使用 1-based 索引与 NULL_BLOCK_ID 设计的匹配、fp8 比较的 ulp 容忍策略、以及 autouse fixture 解决测试隔离问题。
A high-throughput and memory-efficient inference and serving engine for LLMs
修复长期未在 CI 运行的内核测试代码
建议批准合并。此 PR 是 CI 基建的重要一环,使之前被排除的测试重新得到验证。值得关注的设计决策包括:使用 1-based 索引与 NULL_BLOCK_ID 设计的匹配、fp8 比较的 ulp 容忍策略、以及 autouse fixture 解决测试隔离问题。
FlashInfer 版本从 0.6.14 升级到 0.6.15.post1
该 PR 是必要的依赖升级,用于修复关键生产环境问题。建议精读了解缺陷影响范围,但不需深入代码细节。
修复推理未结束时 EOS/BOS 泄漏到 reasoning_content
值得精读,尤其是对 vLLM 解析器内部感兴趣的开发者。展示了如何通过移除不必要的守卫来修复边界泄漏问题。设计决策(始终丢弃 drop tokens)在 PR body 中有充分论证,可作为日后类似修复的参考。
原始 PR · 作者 gau-nernst · 合并时间 2026-07-23 00:03
稳定 GDN prefill CuTeDSL 测试
值得合并,作为最小且有效的 CI 稳定性修复。建议后续考虑引入更多 seed 或参数化变异来补偿随机性覆盖率。
增加 PyTorch 编译单元测试超时时间
简单配置调整,无需精读。可合并。
原始 PR · 作者 divakar-amd · 合并时间 2026-07-22 23:18
ROCm 平台 EPLB 场景跳过 MoE 权重填充
值得快速合入。变更量小、逻辑明确,是 ROCm EPLB 功能依赖的三个修复中的最后一块。虽然无测试直接验证此修改,但前序修复已有相关测试覆盖。
原始 PR · 作者 yewentao256 · 合并时间 2026-07-22 22:55
跳过空 c128 kernel 启动,性能提升约 2 倍
该 PR 值得精读,尤其是 `_get_c128_boundary` 的逻辑和 `forward` 中跳过 kernel 的条件。设计上利用了元数据构建阶段的 CPU 计算避免了 GPU kernel launch,是典型的"CPU 预判避免 GPU 开销"优化模式,对其他模型类似场景有参考价值。建议 merge。
原始 PR · 作者 guan404ming · 合并时间 2026-07-22 22:11
修复异步渲染路径中 vision chunk UUID 重建缺失
建议精读。这是一个典型的双路径 bugfix:同步路径和异步路径因重构或演进产生分歧,导致异步路径遗漏重要调用。开发者应警惕类似模式,在新增异步方法时应确保与同步方法的逻辑副本同步。该 PR 虽小但体现了良好的代码审查文化:提交者主动添加测试但 reviewer 认为不必要,最后达成最小变更共识。
参与讨论