vllm-project/vllm

为 Essential AI 的 Rnj-1 系列模型添加支持，引入块局部注意力和全层 YaRN 配置。

建议精读 `vllm/model_executor/models/rnj1.py` 以理解新模型架构，并关注 `vllm/v1/attention/ops/triton_unified_attention.py` 中的掩码实现，了解块局部注意力与滑动窗口的设计权衡。对于维护者，需注意后端限制和未来扩展可能性。

修复 MLA 注意力量化融合测试中的权重初始化逻辑，解决因 CUDA 内存回收导致的数值不稳定问题。

该 PR 值得快速浏览，以了解如何修复由 CUDA 内存回收引起的数值不稳定测试问题。关注点在于权重初始化策略从条件性 NaN 检查改为无条件正态分布初始化的设计决策，这确保了测试的确定性。对于从事类似量化融合或 MLA 注意力测试的工程师，这是一个实用的案例。

扩展 CPU-GPU 卸载处理器以支持多组 KV 缓存传输。

建议技术管理者和核心工程师精读此 PR，重点关注 `cpu_gpu.py` 中 `transfer_async` 的多组处理逻辑设计，以及 `mediums.py` 的 API 变更。这些决策展示了如何扩展卸载系统以支持更复杂的缓存组场景，值得学习其权衡和实现细节。

修复推理解析器未接收有效聊天模板参数的不匹配问题，确保渲染与解析语义一致。

该 PR 值得精读，特别是 `_effective_chat_template_kwargs` 的设计展示了如何统一计算有效参数，避免分散逻辑。关注批处理路径中基于第一个请求实例化解析器的简化假设，这在未来功能扩展时可能需要调整。对于涉及推理解析器的开发，此 PR 提供了参数传递的最佳实践。

引入 SpeechToTextParams 数据类，统一语音转文本请求参数，简化模型接口签名。

该 PR 值得精读，特别是学习如何通过数据类统一接口参数的设计决策。关注 `SpeechToTextParams` 的定义和 `build_stt_params()` 的映射逻辑，这些是未来类似重构（如其他多模态接口）的参考。

在 ROCm 注意力后端支持非因果注意力，修复 DFlash 推测解码测试。

该 PR 值得精读，特别是 Triton 内核中注意力掩码逻辑的修改和元数据设计，展示了如何在多后端系统中处理功能标志。建议关注 `prefix_prefill.py` 中的掩码实现优化，以及 `rocm_attn.py` 中元数据的扩展方式，这对理解 vLLM 注意力后端架构有较高价值。

为 MLA 注意力添加组 FP8 量化融合模式，优化 DeepSeekV3 等模型的推理性能。

建议精读 `vllm/compilation/passes/fusion/mla_attn_quant_fusion.py` 和 `_detect_output_quant_key` 函数，了解融合模式设计和量化检测逻辑；关注 review 中关于切片和 TMA-aligned 分配的讨论，这些是未来重构的关键点。

修复量化模型在预取卸载时因整数数据类型导致的初始化失败。

该PR值得快速浏览，重点关注`get_dtype_size`的引入如何统一数据类型处理。对于涉及量化或卸载模块的开发者，这是一个简单的设计决策示例：用通用工具函数替代特定API，提升代码健壮性和可维护性。