vllm-project/vllm

添加基于 NIXL 的 EPLB 通信器，作为避免 NCCL 挂起的替代方案。

该 PR 值得精读，特别是 `NixlEplbCommunicator` 的实现，展示了如何集成第三方 RDMA 通信库到 vLLM 的 EPLB 框架。关注缓冲区管理策略（如仅使用第一层权重）和同步机制（全局屏障）的设计权衡，以及 review 中关于性能优化和容错性的讨论。

为 KV 卸载模块添加滑动窗口注意力组查找支持，简化管理接口。

建议精读 `OffloadingConnectorScheduler` 中的 `_maximal_prefix_lookup` 和 `_sliding_window_lookup` 方法，理解异步查找处理和设计权衡。关注后续 HMA 集成时如何复用这些逻辑。

修复跨节点流水线并行中 CPU 通信器因 torch.distributed 后端不支持张量字典传输而失败的问题。

该 PR 值得精读，特别是对于从事分布式 CPU 推理或流水线并行开发的工程师。关注 `supports_tensor_dict` 属性的引入和 `use_cpu_custom_send_recv` 逻辑的更新，这些设计决策明确了后端支持的条件。同时，注意 review 中提到的 ARM 性能风险和属性访问安全问题，这些是未来需要关注的潜在改进点。

修复FP8 scaled_mm内核中3D输入张量输出缩小错误，避免引擎初始化崩溃。

建议工程师精读此PR，关注`_get_num_tokens`辅助函数的设计，它展示了处理张量形状展平时的通用模式。此外，review讨论中的DRY原则实践值得借鉴，有助于提高代码质量。

启用AMD MI300单GPU测试代理，优化CI测试分布。

对于CI/基础设施工程师，值得精读此PR以了解AMD硬件测试配置和资源优化策略；对于核心开发者，只需关注测试结果的潜在变化。建议关注CI配置的组织方式、测试分组逻辑和资源请求设置。

修复推理输出文档中 thinking_token_budget 参数在 curl 示例中的错误位置。

这是一个简单的文档修复，无需深入阅读。对于工程师，可以快速浏览以了解 API 参数的正确用法；对于技术管理者，无需特别关注。

修复离线生成API中多模态处理器参数未传递的问题，确保与聊天API行为一致。

建议开发者精读`_preprocess_cmpl`方法中的条件逻辑，这是避免配置覆盖的关键设计决策，体现了API设计中对向后兼容性和用户灵活性的权衡。同时，测试文件展示了如何通过mock验证参数传递，值得作为单元测试的参考范例。

修复输出令牌数超过模型最大长度时错误消息缺少空格的格式问题。

该PR变更简单直接，主要价值在于改善错误消息的用户体验。对于新接触vLLM错误处理机制的开发者，可以关注`VLLMValidationError`的构造方式和参数传递模式。虽然变更微小，但体现了对细节的关注。