vllm-project/vllm

修复RISC-V CPU上exp()因未钳制输入产生NaN的问题

此PR值得精读，尤其对于理解SIMD向量化中数值稳定性处理的团队。设计决策（采用与x86/ARM相同的钳制边界）降低了维护成本。建议后续添加针对exp()输出为FLT_MIN而非零的回归测试，确保边界行为被记录。

为 FunASR 模型添加热词支持

值得精读，尤其是如何通过 `SpeechToTextParams` 数据类统一传递模型参数，以及如何在 prompt 构造中动态注入用户输入。设计上避免了修改 `get_generation_prompt` 的函数签名，扩展性良好。

升级 TPU 依赖版本至 v0.18.0

可快速合并，变更简洁明确。适合需要最新 TPU 推理库的用户。

支持客户端传递自定义视频元数据以保留时序信息

建议精读此 PR，特别是 `load_base64` 中的元数据传递模式，可作为多模态管道中客户端-服务器协作的参考。注意验证逻辑相对简单，生产使用前应补充更严格的校验和测试。

为多个推理解析器添加 reasoning_start_str/reasoning_end_str 属性，修复属性缺失问题。

该 PR 值得快速浏览，重点关注 review 中讨论的基类设计陷阱（如错误继承 BaseThinkingReasoningParser 和抽象方法缺失），这展示了在扩展类时保持接口一致性的重要性。对于理解 vLLM 推理解析器架构有一定参考价值。

为 Essential AI 的 Rnj-1 系列模型添加支持，引入块局部注意力和全层 YaRN 配置。

建议精读 `vllm/model_executor/models/rnj1.py` 以理解新模型架构，并关注 `vllm/v1/attention/ops/triton_unified_attention.py` 中的掩码实现，了解块局部注意力与滑动窗口的设计权衡。对于维护者，需注意后端限制和未来扩展可能性。

修复 MLA 注意力量化融合测试中的权重初始化逻辑，解决因 CUDA 内存回收导致的数值不稳定问题。

该 PR 值得快速浏览，以了解如何修复由 CUDA 内存回收引起的数值不稳定测试问题。关注点在于权重初始化策略从条件性 NaN 检查改为无条件正态分布初始化的设计决策，这确保了测试的确定性。对于从事类似量化融合或 MLA 注意力测试的工程师，这是一个实用的案例。

扩展 CPU-GPU 卸载处理器以支持多组 KV 缓存传输。

建议技术管理者和核心工程师精读此 PR，重点关注 `cpu_gpu.py` 中 `transfer_async` 的多组处理逻辑设计，以及 `mediums.py` 的 API 变更。这些决策展示了如何扩展卸载系统以支持更复杂的缓存组场景，值得学习其权衡和实现细节。