vllm-project/vllm

修复XPU后端LoRA运算中bgmv_expand因权重与输出张量维度不匹配导致的运行时错误。

该PR值得精读，特别是对于在XPU后端上使用LoRA的开发者。关注点包括： 1. **设计决策**：如何通过条件分支和现有算子（`bgmv_expand_slice`）优雅处理维度不匹配，而非强制统一维度，这反映了对实际部署场景（如填充logits）的考量。 2. **实现细节**：注意权重截断时的`contiguous()`调用，确保内存布局兼容性。 3. **扩展性**：此模式可能为其他后端（如CUDA）的类似问题提供参考，但当前仅限XPU。

将CI镜像构建脚本中的ECR认证命令改为非阻塞式，允许认证失败时继续执行。

该PR变更简单直接，适合快速了解CI脚本的容错改进。但建议关注review中提出的风险：在实际部署中，考虑添加警告日志以平衡容错性和可调试性。对于涉及关键镜像构建的流水线，应确保认证配置正确，避免依赖此静默处理。

修复 ROCm AITER FlashAttention 在推测解码路径中的 cu_seqlens_q off-by-one 错误。

此 PR 值得精读，因为它展示了累积长度数组在 attention 后端中的正确使用模式，对于理解推测解码和 ROCm 集成有帮助。

修复非量化MoE在启用LoRA时的后端选择错误，强制使用Triton后端。

该PR值得精读，重点关注`select_unquantized_moe_backend`函数中的早期返回设计决策，以及如何平衡LoRA兼容性与后端选择灵活性。review讨论中关于平台无关性和测试优化的部分也提供了有价值的工程实践参考。

优化 Nemotron VL 图像和视频预处理，通过编译融合减少 CPU 时间和内存使用。

建议工程师精读此 PR，重点关注 `_bicubic_resize_and_normalize` 函数的设计，它展示了如何使用 Torch 编译融合多步预处理操作以提升性能。同时，应检查相关调用方是否适配新参数，并考虑补充测试以验证优化后正确性。

为 Gemma4 模型添加 Triton 融合路由函数，显著提升 MoE 推理性能。

建议工程师精读此 PR，特别是 Triton 内核设计部分，展示了如何通过向量化排序和减少内存操作优化 MoE 路由。关注性能权衡（如 num_warps 设置）和数值稳定性处理（如硬编码常数）。对于从事内核优化或模型特定加速的开发者，这是一个有价值的案例。

重写 Kimi-K2 工具解析器流式逻辑，修复令牌泄漏、参数截断和内容丢失问题。

推荐精读此 PR，特别是 `_extract_content` 和 `_extract_tool_calls` 方法的实现，关注从状态机到纯文本解析的设计转变，以及如何利用 `partial_tag_overlap` 防止标记泄漏。对于从事工具解析或流式处理的工程师，这是理解 vLLM 中解析器演进的重要案例。

在 KV 卸载管理接口中新增请求上下文参数，为租户路由和优先级提示等功能铺路。

该 PR 值得精读，展示了如何通过接口设计为系统添加扩展性，但需注意上下文参数尚未被消费，且未完全集成到所有生命周期方法中。关注 `ReqContext` 在抽象层的定义和调度器中的构造方式，这对理解未来功能实现有参考价值。