vllm-project/vllm

修复 Cohere v2 停止序列终止原因映射

建议快速阅读本 PR。它提供了一个非常干净且典型的『外部协议枚举映射』修复案例，值得借鉴的是如何利用 vLLM 现有字段的语义（如 `stop_reason` 的类型信息）来消除歧义，并通过类型启发式而非引入新字段来最小化改动。同时该 PR 的测试设计（单测 + 非流式集成 + 流式集成）可以作为前端修复的参考规范。

用等价仿射变换替代 batch_norm，修复大图预处理 cuDNN 崩溃

值得精读。这是一个小而清晰的 bugfix 范例：识别出 `F.batch_norm` 在此场景属于“用错工具”——纯仿射映射被包装成 batch norm，无谓引入 cuDNN 派发路径与 CUDA grid 维度限制；替换为直接乘加后代码更简单、覆盖面更广。回归测试中 70000 patch 用例特意跨越旧上限，是锁定平台相关崩溃的良好示范。适合作为多模态预处理管线与算子选择权衡的阅读材料。

修复次要加载器丢失 revision 钉住的安全问题

值得精读。这是一次针对安全公告的跨模块修复，虽然每个点的改动都很机械（多传一个参数），但整体呈现了系统化的审计修复模式：枚举所有"次级读取入口"、统一透传 revision/code_revision、在外部下载边界用记录桩做 RED-to-GREEN 验证、并主动删除低价值的模型专属测试以控制维护成本。重点关注三处设计：ModelArchConfigConvertorBase 构造器签名变更对子类的影响、_PROCESSOR_CHAT_TEMPLATES 缓存键与 revision 的关系、以及 tokenizer_revision 与 revision 的语义区分。

scoring 输入校验改用 VLLMValidationError，新增配套测试

值得快速阅读，作为 RFC #48227 迁移的参考样例。关注点：后续 `VLLMValidationError` reparent 时，需重新审视这些 raise 站点及测试中对 `parameter`/`value` 的断言。

修复 free_blocks 缓存关闭时块复用顺序被翻转的回归

值得精读。这是一个典型的"一行修复 + 深度语义讨论"案例：展示了队列头/尾操作如何静默改变 KV cache 复用语义，以及 review 中"最小改动 vs 性能重构"的取舍过程。对维护者而言，#48017 条件写反的教训表明：声称 no-op 的优化也需要验证行为等价性。建议阅读 `free_blocks` 的完整上下文、njhill 对 perf 数据的质疑，以及 orozery 关于 connector FIFO 假设的评论。普通用户直接升级即可。

投机解码调度预算自适应，低并发 TTFT 最多降 65%

值得精读：这是一次小改动（+54/-24）带来大收益（TTFT -55%~-65%）的典型性能优化，核心思想是把「最坏情况预留」改为「按实际调度动态记账」。重点关注 schedule() 中 input_budget 与 draft_slots 的四个记账点（RUNNING/WAITING/抢占归还/新请求）以及 vllm.py 中校验语义的放宽。若团队也维护投机解码部署，建议合入后在各自的注意力后端与模型组合上做一轮回归，并关注后续 benchislett 的可能 follow-on 意见。

canonical_layout 下保留 per-layer KV 注册，修复启动失败

值得精读，改动虽小但涉及 KV offload 与 canonical layout 两个设计约束的取舍。关注 prefer_cross_layer_blocks 的语义变化及其在调度器中的消费点，可作为理解 KV connector 配置体系的入口。

稳定 ROCm CI Docker 构建上下文与源码缓存

值得 ROCm 构建维护者和 CI 基建负责人精读，尤其是 `validate_ci_build_context_source()` 的物化上下文契约、Triton kernels 单一来源 stage 与 cache 刷新策略三处设计；对一般模型/推理开发者价值有限。建议关注后续 ROCm CI 实际命中率与失败的观测结果，并留意对非 pinned Triton 版本构建路径的兼容性。