vllm-project/vllm

引入AMD Zen CPU后端，通过zentorch优化GEMM操作以提升性能。

推荐技术管理者和工程师精读此PR，重点关注平台检测机制（`_is_amd_zen_cpu`函数）和GEMM分发逻辑（`dispatch_cpu_unquantized_gemm`函数）的设计决策。注意review中关于缓存键和依赖管理的讨论，以了解潜在陷阱。对于涉及CPU后端优化或平台扩展的项目，此PR提供了可复用的架构模式。

修复混合注意力模型 KV 缓存初始化失败，将分组阈值从 1.25 提高至 1.5。

建议工程师阅读此 PR 以了解 KV 缓存分组逻辑的启发式阈值设计，并关注 gemini-code-assist[bot] 提出的配置性建议，这对于长期代码维护有参考价值。

修复 GDN 层 Triton autotuner 在 V1 profiling 阶段未触发导致的 OOM 问题，确保 Qwen 模型稳定推理。

建议工程师精读此 PR，特别是关注如何在 V1 profiling 阶段预热 Triton autotuned kernels 以避免运行时内存问题。值得学习的设计决策包括 autotune key 的覆盖策略、小 tensor 预热方法，以及 review 中讨论的配置鲁棒性优化。对于处理高性能计算或内存敏感场景的开发者，此 PR 提供了实用的技术洞察。

为OpenAI Responses API添加流式工具/函数调用支持。

该PR值得精读，特别是`_process_simple_streaming_events`函数中的工具解析集成设计，展示了如何在现有流式框架中优雅地扩展新功能，同时关注测试组织和未来重构的权衡。

修复MiniMax M2工具解析器在流式输出时因批次大小导致的参数丢失问题。

此PR值得精读，尤其关注如何重构状态机处理流式解析边界情况，设计决策如缓冲策略和安全性权衡有学习价值。建议工程师查看`extract_tool_calls_streaming`函数和测试用例，以理解XML解析优化。

修复ROCm平台attention backend验证因不规则block_size导致的模型启动失败。

对于工程师，此PR不值得深入阅读，除非需了解ROCm平台验证逻辑或一致性修复模式。可快速浏览以确认变更与CUDA对齐，并注意类似的跨平台bugfix策略，作为维护代码一致性的参考案例。

新增 Kimi-Audio 语音转文本模型支持，集成 Whisper 编码器与 Qwen2 解码器。

该 PR 值得精读，特别是模型融合逻辑（如 `embed_input_ids` 方法中的音频-文本嵌入处理）和自定义 tokenizer 设计，这些展示了在多模态模型中处理非标准组件的技术权衡。建议关注 review 讨论中的设计决策，如 renderer 适配和处理器简化，以借鉴于类似项目。

将gRPC servicer提取到外部包，新增--grpc标志启用gRPC服务器。

建议工程师精读此PR，以了解如何通过模块化设计分离核心功能与外部服务，关注依赖管理的调整和懒导入的实现。