vllm-project/vllm

修复跨节点流水线并行中 CPU 通信器因 torch.distributed 后端不支持张量字典传输而失败的问题。

该 PR 值得精读，特别是对于从事分布式 CPU 推理或流水线并行开发的工程师。关注 `supports_tensor_dict` 属性的引入和 `use_cpu_custom_send_recv` 逻辑的更新，这些设计决策明确了后端支持的条件。同时，注意 review 中提到的 ARM 性能风险和属性访问安全问题，这些是未来需要关注的潜在改进点。

修复FP8 scaled_mm内核中3D输入张量输出缩小错误，避免引擎初始化崩溃。

建议工程师精读此PR，关注`_get_num_tokens`辅助函数的设计，它展示了处理张量形状展平时的通用模式。此外，review讨论中的DRY原则实践值得借鉴，有助于提高代码质量。

启用AMD MI300单GPU测试代理，优化CI测试分布。

对于CI/基础设施工程师，值得精读此PR以了解AMD硬件测试配置和资源优化策略；对于核心开发者，只需关注测试结果的潜在变化。建议关注CI配置的组织方式、测试分组逻辑和资源请求设置。

修复推理输出文档中 thinking_token_budget 参数在 curl 示例中的错误位置。

这是一个简单的文档修复，无需深入阅读。对于工程师，可以快速浏览以了解 API 参数的正确用法；对于技术管理者，无需特别关注。

修复离线生成API中多模态处理器参数未传递的问题，确保与聊天API行为一致。

建议开发者精读`_preprocess_cmpl`方法中的条件逻辑，这是避免配置覆盖的关键设计决策，体现了API设计中对向后兼容性和用户灵活性的权衡。同时，测试文件展示了如何通过mock验证参数传递，值得作为单元测试的参考范例。

修复输出令牌数超过模型最大长度时错误消息缺少空格的格式问题。

该PR变更简单直接，主要价值在于改善错误消息的用户体验。对于新接触vLLM错误处理机制的开发者，可以关注`VLLMValidationError`的构造方式和参数传递模式。虽然变更微小，但体现了对细节的关注。

为 RISC-V CPU 内核添加编译时向量长度分派支持，适配不同硬件。

建议技术管理者和工程师精读此 PR，关注其通过编译时宏分派处理硬件多样性的设计模式。尽管存在代码重复的权衡，但实现清晰，对于低层 CPU 内核优化具有参考价值。同时，注意构建配置中的错误处理机制，确保生产环境部署正确。

修复Pixtral模型加载consolidated格式检查点时视觉编码器权重静默丢弃的问题。

建议精读此PR以理解权重加载中的参数映射策略，特别是分片参数与非分片参数的处理方式。关注设计决策如使用重映射字典而非扩展分片列表，以及测试用例的选择权衡。