Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态:已开启 最近同步:2026-09-16 17:47 同步状态:空闲 下次计划:2026-09-16 18:47

PR 列表

更多筛选
2026-07-14
缺陷修复 重要性 7.25 洞察度 5.00

修复Gemma4流式解析器无通道输出分类不一致

推荐精读,特别是`adjust_initial_state_from_prompt`的修改逻辑。展示了如何通过精确的预初始化条件修复状态机不一致。对于了解Gemma4解析器工作原理的开发者很有价值。

缺陷修复 重要性 7.08 洞察度 6.00

修复 KV 缓存卸载时 per-token-head 量化数据截断

建议精读。此 PR 修复了一个难以发现的静默数据损坏 bug,展示了对量化和内存布局细节的深刻理解。重构方式(内联缩放到独立属性)提供了良好的代码复用性和可测试性,值得参考。

缺陷修复 重要性 7.91 洞察度 6.00

阻止双向模式下 P 读取 D 端过期 KV blocks

值得精读,尤其是时钟同步策略、安全裕度设计以及如何在不引入过多配置项的情况下保证正确性。对于分布式 KV 传输贡献者,本 PR 展示了以最小侵入性解决数据一致性问题的方法。

功能 重要性 7.92 洞察度 6.00

LlavaNextVideo 新增 LoRA 支持(含视觉塔与连接器)

该 PR 值得精读,尤其是 `get_num_mm_encoder_tokens` 和 `get_num_mm_connector_tokens` 的实现方式——通过存储网格长度来反推各阶段 token 数量,为其他具有空间池化的多模态模型(如 LLaVA-NeXT、LLaVA-Onevision)的 LoRA 支持提供了可复用的设计模式。

测试 重要性 4.79 洞察度 4.00

移除 CPU 卸载测试中 HMA 模型的 KV 事件限制

此 PR 值得一看,因为它演示了如何随着底层依赖的演进(如 #37688)清理过时的测试防护。同时,其变更模式对理解测试条件的演进有参考价值。

参与讨论