Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态:已开启 最近同步:2026-08-20 18:31 同步状态:空闲 下次计划:2026-08-20 19:31

PR 列表

更多筛选
2026-07-23
测试 重要性 5.80 洞察度 6.00

修复长期未在 CI 运行的内核测试代码

建议批准合并。此 PR 是 CI 基建的重要一环,使之前被排除的测试重新得到验证。值得关注的设计决策包括:使用 1-based 索引与 NULL_BLOCK_ID 设计的匹配、fp8 比较的 ulp 容忍策略、以及 autouse fixture 解决测试隔离问题。

#48914 Bump Flashinfer version to 0.6.15

原始 PR · 作者 wzhao18 · 合并时间 2026-07-23 04:32

基础设施 重要性 3.67 洞察度 3.00

FlashInfer 版本从 0.6.14 升级到 0.6.15.post1

该 PR 是必要的依赖升级,用于修复关键生产环境问题。建议精读了解缺陷影响范围,但不需深入代码细节。

缺陷修复 重要性 6.71 洞察度 5.00

修复推理未结束时 EOS/BOS 泄漏到 reasoning_content

值得精读,尤其是对 vLLM 解析器内部感兴趣的开发者。展示了如何通过移除不必要的守卫来修复边界泄漏问题。设计决策(始终丢弃 drop tokens)在 PR body 中有充分论证,可作为日后类似修复的参考。

#49388 [CI] stabilize GDN prefill CuTeDSL test

原始 PR · 作者 gau-nernst · 合并时间 2026-07-23 00:03

测试 重要性 4.33 洞察度 2.00

稳定 GDN prefill CuTeDSL 测试

值得合并,作为最小且有效的 CI 稳定性修复。建议后续考虑引入更多 seed 或参数化变异来补偿随机性覆盖率。

2026-07-22

#49350 [ROCm][CI] skip moe weight padding for eplb

原始 PR · 作者 divakar-amd · 合并时间 2026-07-22 23:18

缺陷修复 重要性 4.97 洞察度 3.00

ROCm 平台 EPLB 场景跳过 MoE 权重填充

值得快速合入。变更量小、逻辑明确,是 ROCm EPLB 功能依赖的三个修复中的最后一块。虽然无测试直接验证此修改,但前序修复已有相关测试覆盖。

性能优化 重要性 6.84 洞察度 6.00

跳过空 c128 kernel 启动,性能提升约 2 倍

该 PR 值得精读,尤其是 `_get_c128_boundary` 的逻辑和 `forward` 中跳过 kernel 的条件。设计上利用了元数据构建阶段的 CPU 计算避免了 GPU kernel launch,是典型的"CPU 预判避免 GPU 开销"优化模式,对其他模型类似场景有参考价值。建议 merge。

缺陷修复 重要性 4.88 洞察度 6.00

修复异步渲染路径中 vision chunk UUID 重建缺失

建议精读。这是一个典型的双路径 bugfix:同步路径和异步路径因重构或演进产生分歧,导致异步路径遗漏重要调用。开发者应警惕类似模式,在新增异步方法时应确保与同步方法的逻辑副本同步。该 PR 虽小但体现了良好的代码审查文化:提交者主动添加测试但 reviewer 认为不必要,最后达成最小变更共识。

参与讨论