vllm-project/vllm

为 vLLM 添加 K2-Horizon 模型完整支持，包含推理与工具调用解析。

这是一个标准的新模型添加 PR，变更量较大但结构清晰。对于需要支持或使用 K2-Horizon 模型的团队，此 PR 值得精读，以了解其实现细节，特别是 MoE 路由和 IFM 工具调用格式的解析逻辑。对于关注模型扩展方法的开发者，此 PR 提供了完整的参考案例。

修复 OffloadingConnector 在高并发下因异步 offload key 导致的断言失败。

这是一个小而精的关键 bugfix，修复了生产环境中可复现的崩溃问题。PR 逻辑清晰，测试完备，值得精读。核心修改展示了在异步系统中，对共享状态（`offload_keys`）的访问边界需要谨慎校验的设计实践。相关开发者（特别是维护 `kv-connector` 模块的工程师）应重点关注 `storable_chunks` 方法的变更及其对调度逻辑的影响。

修复流水线并行中上一步发送未等待导致的输出静默损坏。

此PR值得精读。\n1. **高价值修复**：解决了一个影响生产部署、表现隐蔽（输出损坏而非崩溃）的关键缺陷。\n2. **优秀分析**：PR描述提供了极其详尽的根因分析、二分法验证和修复原理，是理解异步通信陷阱的绝佳案例。\n3. **设计权衡**：展示了如何在保留性能优化（非阻塞元数据发送）的同时，通过精确的句柄管理确保正确性（等待设备句柄）。\n4. **测试示范**：新增的测试用例通过模拟和顺序验证，为复杂的并发逻辑提供了简洁有效的测试方法。

修复 late-interaction 评分缓存键使用客户端可控请求 ID 导致的缓存污染安全漏洞。

**值得精读**。这是一个典型的安全漏洞修复，其设计模式（引入不可猜测的服务端密钥并管控其作用域）具有通用借鉴价值。实现简洁、直接，附带了针对性的回归测试，是高质量 bugfix 的范例。建议安全相关模块的开发者重点关注其对上下文管理和阶段间状态传递的处理方式。

修复前缀缓存与 SHM 多模态缓存同时启用时，第二个相同请求导致 EngineCore 崩溃的问题。

该 PR 值得精读，因为它修复了一个会导致服务崩溃的关键 bug，并且其修改涉及缓存系统不同层次（调度器、工作进程 SHM 缓存）的精细交互。关注点在于：1) `strip_covered_mm_data()` 如何区分对待普通张量数据和 SHM 地址描述符；2) `ShmObjectStoreReceiverCache.get_and_update_features()` 的过滤逻辑如何确保引用计数正确。修复逻辑清晰，测试覆盖充分（单元测试 + 集成场景测试），是处理缓存一致性问题的一个优秀范例。

修正 DeepSeek-V4 模型注册测试的平台守卫条件，修复非 CUDA 平台 CI 失败。

该 PR 值得精读，因为它虽然改动微小（仅 1 行），却解决了一个影响面广的 CI 故障。它清晰地展示了如何为“仅部分平台支持”的模型架构设置正确的测试守卫。对于维护 vLLM 的多平台测试覆盖和 CI 健康度具有参考价值。

修复 ROCm MoE 权重加载时破坏 CUDA 图捕获地址的问题，确保 RL 训练中权重更新后图回放正确。

该 PR 值得精读。它修复了一个在生产级 RL 训练中可能出现的严重正确性 bug，且修复方案简洁、精准（仅将 `=` 改为 `.copy_()`）。PR 提供了清晰的动机、详细的本地验证数据（包括基准测试结果）以及一个设计良好的专项回归测试。讨论过程展示了作者根据审阅意见迭代改进测试的过程。核心的技术洞察——维护 CUDA 图捕获的参数存储地址的稳定性——对 AI 框架的开发者具有普遍参考价值。建议关注其测试方法（如何直接测试层边界问题）和 `.copy_()` 作为维护张量身份（identity）的惯用模式。

将 ROCm 镜像中的 Mooncake 依赖从源码构建改为通过 PyPI 公共轮子安装。

此 PR 是一个典型的**基础设施简化与维护性改进**。它逻辑清晰，目标明确，且得到了现有测试的支持。\n- **是否值得精读**：对于维护 ROCm 构建、CI 流水线或关注 Mooncake 集成的工程师，值得快速浏览其变更清单，以理解构建系统是如何简化 Mooncake 依赖管理的。对于一般功能开发者，无需深入细节。\n- **值得关注的设计决策**：决策核心是从“自建自包”转向“采用社区发布包”。这是一个在控制权与维护成本之间的权衡。在确保公共轮子质量可控（通过固定版本范围 `>= 0.3.13` 和测试验证）的前提下，此决策有效降低了项目自身的维护负担。