Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态：已开启 最近同步：2026-08-21 19:35 同步状态：空闲 下次计划：2026-08-21 20:35

PR 列表

最近 1 天 最近 3 天 最近 7 天
更多筛选
标签聚合 仓库周报
2026-07-09

#48008 [docs] Fix the docs build

原始 PR · 作者 hickeyma · 合并时间 2026-07-09 06:47

其他 重要性 5.24 洞察度 2.00

修复文档构建的 Docstring 格式问题

该 PR 值得合并，修复了文档构建的警告，属于基础的维护性变更。

documentationcleanupv1
测试 重要性 7.83 洞察度 6.00

GSM8K KV卸载回归测试，覆盖四大架构族

该PR设计扎实，测试覆盖四大架构和两种卸载连接器，且包含同步屏障和精度断言。建议精读 `_reset_gpu_prefix_cache` 的轮询策略和 `test_gsm8k_offloading_correctness` 的双评估逻辑。对于KV卸载模块的开发者，此测试应纳入日常开发流程。

testci/buildkv-connector
缺陷修复 重要性 5.03 洞察度 3.00

ROCm AITER FA 空张量 .max() 崩溃修复

建议合入此 PR。变更微小但关键，解决了实际崩溃问题，且经社区验证。值得关注的是同文件中是否存在其他类似的未守卫空张量操作。

rocmbugfixattention
功能 重要性 8.98 洞察度 6.00

集成 TRTLLM BF16 MoE 模块化内核，扩展后端支持

建议 MoE 相关开发者精读本 PR，特别是 `trtllm_bf16_moe.py` 的类层次拆分和 `unquantized.py` 的多候选 fallback 机制。关注点：模块化接口的实现方式、向后兼容别名的取舍、Oracle 选择逻辑的变更。

featureperformancenvidia

参与讨论