Prhub

vllm-project/vllm · 标签视图

标签列表

聚合结果

anthropic 相关 PR

2026-08-13

#51997 [Bugfix] Bound Anthropic stop sequences

原始 PR · 作者 taneem-ibrahim · 合并时间 2026-08-13 00:05

缺陷修复 重要性 5.12 洞察度 3.00

限制 Anthropic stop_sequences 数量,500 错误转 422

小而清晰的 bugfix,值得快速阅读学习两点:一是在 Pydantic 模型上使用 Annotated + Field(max_length=...) 表达字段级约束的写法;二是跨入口复用统一 env 校验边界、避免硬编码重复的做法。由于缺少测试覆盖,评审或合入后可以顺手补一条 Anthropic 入口超限用例,防止回归。

2026-06-03
缺陷修复 重要性 7.09 洞察度 6.00

支持 Anthropic messages 数组内嵌 system 角色

建议精读该 PR,特别是 system 消息合并逻辑和其潜在的 KV-cache 性能影响。对于上游服务,可考虑等待 #44602 的更优方案或评估自身场景是否受前缀变更影响。