vllm-project/vllm

更新 XPU 构建脚本中的 triton-xpu 依赖版本至 3.8.0。

这是一个常规的依赖版本更新 PR，对于理解 XPU 后端的依赖管理流程有参考价值，但核心逻辑简单，无需精读。关注点在于其与后续 PyTorch 升级的关联。

修复 SeedOSS 解析器回合边界 token 缺失，补充边界回退语义测试。

本 PR 是一个高质量、低风险的 bugfix，值得精读。它清晰地展示了如何通过简单的属性覆盖来适配模型差异，并补充了关键的测试用例以防止回归。对于负责维护或扩展解析器框架的工程师，本 PR 提供了很好的参考。建议关注 `TURN_BOUNDARIES` 属性的覆盖机制及其对 `is_reasoning_end` 方法行为的影响。

为 Cohere 请求协议的 priority 字段添加 int64 范围验证，防止 MessagePack 序列化溢出。

这是一个简单、清晰且有价值的 bugfix。变更意图明确，实现直接，且风险极低。 - **精读建议**：对于大多数团队成员，此 PR **不需要**精读。其变更非常直观，核心就是为三个 Pydantic 字段添加了相同的数值范围验证。 - **关注点**：唯一值得关注的设计决策是选择在 API 入口层（Pydantic 模型）进行验证，而非在更下游的序列化层或调度器层。这是一种常见的防御性编程实践，能尽早暴露问题。该决策本身是合理且标准的。 - **结论**：该 PR 是一个良好的实践范例，展示了如何通过输入验证来增强 API 的健壮性，值得快速合入。

为 MiniMax-M3 稀疏注意力集成 AITER fp8 评分与 top-k 内核，显著提升 ROCm 上的推理吞吐。

该 PR 值得精读，特别是对于关注 ROCm 性能优化、硬件特定内核集成或稀疏注意力实现的工程师。其关键设计决策包括：1) 严格的编译时合约验证与优雅回退机制；2) 索引器生成页表以解耦多 KV 头限制；3) 跨元数据构建器的页表重映射。这些模式对于设计其他硬件加速路径具有借鉴意义。建议重点关注 `indexer_aiter.py` 中的合约验证逻辑和 `sparse_attention_msa.py` 中的页表处理，以及它们如何协同工作以支持高性能的稀疏注意力。

拆分 MI300 分布式编译 CI 作业以缩短关键路径。

此 PR 是一个高质量的 CI 优化。它针对明确的性能瓶颈（关键路径 CI 耗时过长）提出了一个经过实测数据支撑的、具体且低风险的解决方案。PR body 提供了充分的决策依据（测量数据、超时计算逻辑、权衡分析）。建议维护者合并，以加速 AMD ROCm 平台的开发迭代。

修复 AITER 注意力后端在共享 KV 缓存场景下预填充失败的问题。

本 PR 是一个针对性强、影响明确的关键 bug 修复。建议精读 `vllm/v1/attention/backends/rocm_aiter_fa.py` 中 `AiterFlashAttentionImpl.forward` 方法的变更，以理解共享 KV 缓存的 gather 逻辑。同时，新增的测试用例 `test_aiter_fa_shared_kv_matches_reference` 设计全面，是理解 AITER 后端共享缓存行为的优秀参考。该修复值得纳入主干。

修复 Step-3.5 推理解析器结束检测逻辑，使其适配结构化输出。

**值得精读**。此 PR 修复了一个影响核心功能（工具调用）的严重 bug，其解决方案体现了在复杂状态机与简洁性之间的重要权衡。特别是评审中关于流式回归的讨论和作者的权衡决策，对理解 vLLM 推理解析器架构和约束很有价值。建议关注基类 `BaseThinkingReasoningParser` 的设计，它为多个模型提供无状态的推理结束检测。

修复 TRTLLM ragged prefill 因内核同步导致的性能回退，将检查逻辑移至元数据准备阶段。

这是一个重要的性能修复 PR，值得精读。它不仅解决了已报告的性能回退，还提供了一种有价值的优化模式：将计算密集型内核中的同步检查和条件分支提前到宿主侧进行。其设计决策清晰，权衡得当（接受少量宿主侧开销以换取显著的内核执行效率提升）。应重点关注 `trtllm_ragged.py` 中的元数据准备和内核调用逻辑，以及 `mla_attention.py` 中的数据契约变更。