#51089 [Feature] Parse request priority from HTTP header
原始 PR · 作者 chaunceyjiang · 合并时间 2026-08-06 12:10
新增 X-Vllm-Priority 头覆盖 body 优先级
值得快速浏览,适合作为“在双前端同步新增 header 能力”的参考样例。设计上值得借鉴的是将 header 解析收敛到单一静态方法(`_get_priority`)并由三条 API 复用,以及 Rust 侧用 `ctx.priority.or(request.priority)` 表达覆盖优先级。若团队关心健壮性,可在此 PR 基础上补 Python 端单测并考虑对非法 header 值返回 400。