Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

cleanup 相关 PR

2026-06-04
重构 重要性 7.28 洞察度 5.00

融合residual支持到batch-invariant RMS norm

值得精读,特别是关于批处理不变性归一化的设计模式。合并函数并支持可选residual的做法简洁清晰,可作为类似重构的参考。

#44122 [Refactor] Remove dead code fp quant

原始 PR · 作者 yewentao256 · 合并时间 2026-06-04 02:22

重构 重要性 6.06 洞察度 2.00

移除 FPQuant 中的死代码

建议合并,属于常规代码清理,无技术风险,有助于保持代码库整洁。

缺陷修复 重要性 4.92 洞察度 4.00

修复负值 max_num_scheduled_tokens 绕过验证的 bug

这是一个清晰的低风险修复,值得合并。虽为微小改动,但体现了配置验证一致性的好实践——避免将验证逻辑分散在条件分支中。建议在类似场景(如 `max_num_seqs` 等字段)也应用相同模式。

2026-06-03

#44388 [Doc] Update ViT CUDA graph interfaces

原始 PR · 作者 shen-shanshan · 合并时间 2026-06-03 16:21

文档 重要性 2.60 洞察度 3.00

更新 ViT CUDA 图文档,同步代码变更

此 PR 是纯粹的文档同步更新,对大多数工程师无需精读。但若您正在使用或开发 ViT CUDA 图系统,建议查看此文档以了解最新的 API 和流程。

#44293 Nit Changes in Tiered KV Offload

原始 PR · 作者 rshavitt · 合并时间 2026-06-03 12:53

文档 重要性 4.22 洞察度 2.00

为 FS Tier Manager 添加跨进程共享文档

此 PR 为小范围文档改进,理解价值有限。但其中关于 `PYTHONHASHSEED` 的说明对于理解 vLLM 跨实例 KV 缓存共享机制有参考意义。