vllm-project/vllm

澄清 speculative decoding 中 --speculative-config 参数的文档，添加键值说明和示例。

对于使用 speculative decoding 的工程师和用户，此 PR 值得浏览以了解正确配置选项；关注设计决策如 CLI 命名约定和文档结构，但无需深入代码分析。

修复 DeepSeek V3.2 中 LoRA 模块注册和权重后处理的回归问题。

该 PR 值得精读，特别是类型检查改为 `isinstance` 的设计决策和 LoRA 包装器解包逻辑，这些模式在支持模型子类时具有通用性。关注 `vllm/lora/layers/column_parallel_linear.py` 中的 `apply` 方法如何平衡自定义 forward 与 LoRA 增量应用。

修复RISC-V CPU上exp()因未钳制输入产生NaN的问题

此PR值得精读，尤其对于理解SIMD向量化中数值稳定性处理的团队。设计决策（采用与x86/ARM相同的钳制边界）降低了维护成本。建议后续添加针对exp()输出为FLT_MIN而非零的回归测试，确保边界行为被记录。

为 FunASR 模型添加热词支持

值得精读，尤其是如何通过 `SpeechToTextParams` 数据类统一传递模型参数，以及如何在 prompt 构造中动态注入用户输入。设计上避免了修改 `get_generation_prompt` 的函数签名，扩展性良好。

升级 TPU 依赖版本至 v0.18.0

可快速合并，变更简洁明确。适合需要最新 TPU 推理库的用户。

支持客户端传递自定义视频元数据以保留时序信息

建议精读此 PR，特别是 `load_base64` 中的元数据传递模式，可作为多模态管道中客户端-服务器协作的参考。注意验证逻辑相对简单，生产使用前应补充更严格的校验和测试。

为多个推理解析器添加 reasoning_start_str/reasoning_end_str 属性，修复属性缺失问题。

该 PR 值得快速浏览，重点关注 review 中讨论的基类设计陷阱（如错误继承 BaseThinkingReasoningParser 和抽象方法缺失），这展示了在扩展类时保持接口一致性的重要性。对于理解 vLLM 推理解析器架构有一定参考价值。

为 Essential AI 的 Rnj-1 系列模型添加支持，引入块局部注意力和全层 YaRN 配置。

建议精读 `vllm/model_executor/models/rnj1.py` 以理解新模型架构，并关注 `vllm/v1/attention/ops/triton_unified_attention.py` 中的掩码实现，了解块局部注意力与滑动窗口的设计权衡。对于维护者，需注意后端限制和未来扩展可能性。