vllm-project/vllm

修复tool_parser_cls类型注解从Callable改为type[ToolParser]，提升类型安全。

建议快速浏览此PR以了解类型注解最佳实践，特别是使用`type[ToolParser]`表示类引用的方式，适合关注代码质量的工程师参考；无需深入分析，变更简单直白。

重构 CPU KV-cache offloading 子系统，采用策略模式统一 LRU/ARC 管理器并优化代码结构。

建议工程师精读此 PR，重点关注策略模式的应用、原子性 evict 方法的实现（如 LRUCachePolicy.evict 的原子性保证），以及文件结构重组的设计决策。这些设计值得学习，有助于理解如何减少重复代码和优化模块化。

修复 Anthropic 服务端点中默认聊天模板参数传递缺失的 bug。

此 PR 变更简单，无需深入精读。对于工程师，可以作为示例理解前端 entrypoints 中参数传递的流程；对于管理者，是一个低风险的维护性修复，建议关注配置传递的完整性。

将release pipeline的构建队列从postmerge迁移到release队列，提升隔离与安全性。

此PR变更简单直接，无需深入代码阅读；关注点在于CI配置的隔离改进，建议验证构建流程在合并后的稳定性，并考虑添加相关测试覆盖。

将CPU CI测试作业设备降级到small和medium队列以削减成本。

建议工程团队关注这些降级作业的CI稳定性，监控失败率；如有频繁失败，应考虑回滚到标准队列或添加soft_fail选项以降低阻塞风险。

将kv缓存从列表形式重构为直接元素，简化代码并移除冗余包装。

建议：对于涉及vllm中kv缓存模块的开发者，此PR值得精读，以理解代码简化过程和设计决策。关注点包括bind_kv_cache的修改和_cleanup_profiling_kv_cache的健壮性处理。

将AMD CI中的Entrypoints集成测试作业拆分为三个并行作业，以优化ROCm硬件回归跟踪。

对于关注CI配置或ROCm测试的工程师，值得快速浏览以了解测试拆分模式；review中提出的可维护性问题值得在类似更改中考虑，但PR本身逻辑简单。

添加批量不变性测试覆盖 Block FP8 和小型 MoE 模型。

此 PR 变更简单，适合快速审阅，关注点在于测试覆盖的扩展和环境变量设置的最佳实践，建议工程师在类似 CI 配置时借鉴此改进。