Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态：已开启 最近同步：2026-08-20 17:15 同步状态：空闲 下次计划：2026-08-20 18:15

PR 列表

最近 1 天 最近 3 天 最近 7 天
更多筛选
标签聚合 仓库周报
2026-07-27
缺陷修复 重要性 5.28 洞察度 4.00

修复 ROCm 平台 CPU->GPU KV 缓存 Triton 路径的内存错误

该 PR 是一个针对特定硬件平台的简洁 bugfix，变更量小且逻辑清晰。值得精读以理解在异构平台上 Triton 内核的局限性和回退策略。

bugfixrocmv1
缺陷修复 重要性 7.24 洞察度 6.00

修复 CUDAGraph 模式下 QuickReduce 的 flag 冻结错误

建议精读此 PR，尤其是设备端计数器模式的设计。它展示了如何绕过 CUDA 图固定输入的限制，通过设备端持久化状态变量来保持动态变化。测试用例的多进程 + CUDA 图隔离写法也值得学习。

bugfixrocmkernel
缺陷修复 重要性 7.99 洞察度 6.00

CPU MoE 中间维零填充，修复 TP 分组 GEMM 静默回退

值得精读。PR 展示了完整的性能悬崖定位方法（profiling 定位 74% 时间片与 16 万次小 mm 调用），以及 padding 布局与内核切分契约的联动设计；`fail-loud` 策略对静默性能回归的取舍也值得参考。但合并/参考前必须处理 review 中提出的 ARM NEON 分支回归，并评估 AMX 上非 bf16 场景由回退变报错的影响。

bugfixcpuperformance
缺陷修复 重要性 5.67 洞察度 5.00

修复 HF tokenizer 在双格式仓库中错误选择 tokenizer 类

建议精读，这是一个小而精的 bugfix，展示了如何通过调整控制流顺序解决双格式仓库的歧义问题。

bugfixtokenizermistral
缺陷修复 重要性 5.30 洞察度 4.00

修复 DeepSeek V4 warmup 的零压缩比问题

值得精读，尤其对于关注 Triton warmup 流程和 MLA 后端的开发者。这是一个典型的“运行时与 warmup 行为不一致”导致的 bug，修复模式清晰，可作类似问题的参考。

bugfixdeepseekv1
重构 重要性 6.87 洞察度 6.00

max_model_len 移至 ManagedEngineArgs，修复 -1 序列化崩溃

值得精读，展示了 Rust/Python 边界上类型映射和所有权划分的典型处理方式。适合团队中从事 CLI/Rust 前端开发的工程师学习。

rustrefactorfrontend

参与讨论