Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态:已开启 最近同步:2026-08-20 18:31 同步状态:空闲 下次计划:2026-08-20 19:31

PR 列表

更多筛选
2026-07-28

#47750 [Feature] Add VidCom2 video token pruning

原始 PR · 作者 nvbfalk · 合并时间 2026-07-28 11:20

功能 重要性 8.88 洞察度 5.00

新增 VidCom2 视频 token 剪枝方法

推荐关注该 PR 的设计模式,特别是统一参数接口 `get_video_pruning_spec()`、协议方法声明 `supported_video_pruning_methods`、配置 fail-fast 校验等,可作为后续功能扩展的模板。

重构 重要性 9.00 洞察度 7.00

将 Quark OCP MX AITER 内核迁移至线性抽象层

值得精读。该 PR 展示了在 vLLM 中注册一个新量化内核的完整流程:定义子类、实现抽象方法、注册到 `_POSSIBLE_*_KERNELS` 和 `_registered_linear_kernels`,并在使用方通过 `init_*_linear_kernel` 获取实例。关注 `__init__.py` 中的注册模式和 `test_mxfp4_kernel_selection.py` 中 mock 平台枚举的测试技巧。

#44513 [XPU] Add online fp8 quantization test

原始 PR · 作者 yma11 · 合并时间 2026-07-28 10:34

测试 重要性 5.58 洞察度 4.00

XPU 启用在线 FP8 量化测试

本 PR 作为 XPU 平台启用测试覆盖的参考样例,值得其他平台(如 CPU)借鉴其 `is_quant_method_supported` 的扩展模式。审查时重点关注 `supported_quantization` 列表的维护成本和测试跳过的条件是否清晰。

性能优化 重要性 3.66 洞察度 6.00

消除 DSv3.2 稀疏 MLA 解码热循环中的冗余 FillFunctor 启动

值得精读。本 PR 展示了一个典型的性能优化模式:消除冗余 GPU 内核启动。对于运行 DeepSeek 模型且使用 ROCm 的团队,此变更可直接带来吞吐提升。同时,review 中关于工作区管理的讨论(使用 `current_workspace_manager` 替代全局变量)是值得学习的架构实践。

缺陷修复 重要性 5.87 洞察度 4.00

PCP 强制启用 V2 Model Runner

此 PR 变更简洁且必要,建议合并。可精读 `vllm/config/vllm.py` 中的 `use_v2_model_runner` 属性和 `_validate_config` 方法,理解 PCP 与 V2 的绑定模式。后续可考虑为 PCP 相关配置添加更多测试覆盖。

参与讨论