Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

responses-api 相关 PR

2026-08-06
功能 重要性 6.99 洞察度 4.00

新增 X-Vllm-Priority 头覆盖 body 优先级

值得快速浏览,适合作为“在双前端同步新增 header 能力”的参考样例。设计上值得借鉴的是将 header 解析收敛到单一静态方法(`_get_priority`)并由三条 API 复用,以及 Rust 侧用 `ctx.priority.or(request.priority)` 表达覆盖优先级。若团队关心健壮性,可在此 PR 基础上补 Python 端单测并考虑对非法 header 值返回 400。

2026-08-01
缺陷修复 重要性 8.05 洞察度 6.00

新增双 API 渲染一致性测试并修复工具渲染差异

值得精读,重点是 test_render_parity.py 的捕获-对比测试设计:它没有 mock 掉整个预处理链路,只在 HF 渲染边界安装桩,保留了两条 API 各自预处理逻辑的真实性,这种"边界打桩"思路对其他跨 API 一致性测试有借鉴价值。也值得关注两个序列化器的白名单过滤与 construct_tool_dicts 的参数化设计。对后续要扩展 Responses API 能力的开发者,这套测试应作为默认配套。

2026-07-24
2026-07-15
2026-07-06
缺陷修复 重要性 8.74 洞察度 5.00

支持 Responses API namespace 工具名恢复

建议精读,特别是 vllm/tool_parsers/utils.py 中的映射函数设计。该 PR 解决了真实的客户端兼容性问题,设计上清晰地分离了内部展平名与外部原始名,是一个值得学习的前端协议适配案例。审核者 chaunceyjiang 的 review 提出了关键的代码组织建议,也值得关注。

2026-07-01
缺陷修复 重要性 5.18 洞察度 3.00

暴露 disagg 响应中 usage 等字段

值得精读的样板级小 bugfix:展示了如何通过 Pydantic 模型定义缺少字段导致数据丢失,以及 AI 辅助审查能快速发现连带字段缺失和参数名不匹配等隐蔽问题。对维护 disagg 相关代码的开发者尤其有参考价值。

2026-06-30
缺陷修复 重要性 4.23 洞察度 2.00

修复 Harmony 模型 function_call 状态为 null 的问题

值得合并。该 PR 修复了一个明确的合规性问题,变更小、测试完备、无副作用。阅读者可以重点关注 `_parse_function_call()` 函数的构造模式,理解 Harmony 适配层的实现方式。

2026-06-23
缺陷修复 重要性 6.68 洞察度 5.00

修复Responses API多轮对话中推理消息未正确丢弃

建议关注`render_for_completion`的改动与新增测试,理解如何跨API共享逻辑并精确控制库默认行为。该PR是一个典型的bugfix + cleanup示例,展示了修复多路径不一致问题的策略。