Prhub

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

监控状态:已开启 最近同步:2026-08-20 17:15 同步状态:空闲 下次计划:2026-08-20 18:15

PR 列表

更多筛选
2026-07-06

#47481 [ROCm][CI] Adding nixl multiconn

原始 PR · 作者 AndreasKaratzas · 合并时间 2026-07-06 15:04

基础设施 重要性 4.83 洞察度 3.00

新增 ROCm CI 测试:Nixl 多连接器前缀缓存与精度覆盖

该 PR 主要聚焦 CI 基础设施,值得关注其创建的参数化测试脚本模式,便于后续跨后端测试复用。但核心价值有限,建议在合并后考虑将关键测试步骤改为非 optional 以发挥持续验证作用。

缺陷修复 重要性 8.74 洞察度 5.00

支持 Responses API namespace 工具名恢复

建议精读,特别是 vllm/tool_parsers/utils.py 中的映射函数设计。该 PR 解决了真实的客户端兼容性问题,设计上清晰地分离了内部展平名与外部原始名,是一个值得学习的前端协议适配案例。审核者 chaunceyjiang 的 review 提出了关键的代码组织建议,也值得关注。

#45243 [RISC-V] Enable BF16 on VLEN=256 hardware

原始 PR · 作者 velonica0 · 合并时间 2026-07-06 14:05

基础设施 重要性 5.08 洞察度 6.00

RISC-V BF16 强制启用与 VLEN=256 修复

建议精读 BF16Vec32 构造函数的改动,理解 RISC-V LMUL 扩展与元素复制的技巧。测试方面应增加 VLEN=256 硬件上的 BF16 算子单元测试,以及确保 VLEN=128 回归测试通过。

参与讨论