Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态:已开启 最近同步:2026-09-16 17:47 同步状态:空闲 下次计划:2026-09-16 18:47

PR 列表

更多筛选
2026-05-26
测试 重要性 7.08 洞察度 3.00

扩展 ROCm 快速归约测试覆盖与 CI 集成

此 PR 整体健康,具有正面价值,建议合并。考虑采纳 review 建议,改进断言的严谨性和错误处理,以提升测试的可靠性。值得 ROCm 相关开发者精读,特别是学习如何编写分布式进程测试、利用 Ray 进行多 GPU 测试以及配置 CI 依赖声明。

文档 重要性 4.05 洞察度 3.00

添加 MoRI-IO 连接器使用指南

建议 ROCm 平台上进行 PD 分解的用户阅读此文档;对于开发者,文档中的配置模式和调试技巧(如环境变量)值得参考。

#43530 Fix CuPy runtime deps and restore humming

原始 PR · 作者 mmangkad · 合并时间 2026-05-26 20:59

缺陷修复 重要性 6.73 洞察度 5.00

修复 CuPy 14.1.0 的 pytest 冲突并恢复 humming 支持

建议在 humming.py 中保留适当的安装提示(例如在类 __init__ 中重新添加检查),或迁移至更优雅的延迟错误报告。同时跟踪 cupy 14.1.1 或更高版本,尽快将版本限制从 `<14.1.0` 放宽为 `!=14.1.0`。

重构 重要性 7.64 洞察度 5.00

InternLM2 迁移至 AutoWeightsLoader

该 PR 设计清晰,遵循已有模式,适合作为参考样本帮助其他模型的迁移工作。建议阅读 InternLM2Model.load_weights 和 InternLM2ForCausalLM.load_weights 的变更以理解 AutoWeightsLoader 的使用方式。

功能 重要性 8.71 洞察度 6.00

自定义图像基准数据集支持多图像与交错内容

建议阅读该 PR,特别是 `CustomImageDataset` 的 `load_data` 和 `sample` 方法的设计,以及请求构建的适配模式。对于需要定制 benchmark 数据集的团队具有参考价值。整体清理且安全,可正常合入。

参与讨论