执行摘要

• 一句话：XPU 启用融合内核，decode 提速 55%
• 推荐动作：值得快速浏览：它展示了在 Triton 内核跨平台可用时，通过放宽平台门控即可获得大幅性能收益的轻量做法。关注点是此类一行改动通常缺少独立数值测试，团队可参考其 CI 覆盖方式决定是否补测。

功能与动机

PR body 明确说明目的是 "Route to fused_qk_rmsnorm_rope_gate triton kernel"，即让 Qwen3Next 的注意力 QKV 投影提前走向融合内核。此前该内核仅对 CUDA 开放，而 Triton 内核本身具备跨平台能力，XPU 平台只是被平台判定挡在门外。作者在 B70 上给出的性能数据证明融合路径可带来显著收益：decode（bs=8）从 2.42 ms 降到 1.09 ms，prefill（8192 token/pass）从 31.93 ms 降到 24.57 ms。

实现拆解

1. 变更入口：vllm/model_executor/models/qwen3_next.py 的 Qwen3NextAttention.__init__ 中，use_fused_qk_norm_rope_gate 标志的组装条件。
2. 核心改动：将 current_platform.is_cuda() 修改为 current_platform.is_cuda() or current_platform.is_xpu()。原有的约束（启用 attn_output_gate、NeoX 风格 RoPE、fp16/bf16 dtype、文本或多模态 mrope 兼容）全部保留。
3. 运行时影响：标志置真后，_project_qkv_gate 在 XPU 上调用 fused_qk_rmsnorm_rope_gate，将 qkv 分裂、QK RMSNorm、部分 NeoX RoPE 和 gate 拷贝合并为一个 Triton kernel，替代 eager 逐算子路径。
4. 测试与配套：未新增单元测试或配置项；验证依赖 Buildkite CI（#89110 与 #89215）。由于分支曾落后 main，维护者多次 merge main 后重新触发，CI 最终通过并获 approve。

关键文件：

• vllm/model_executor/models/qwen3_next.py（模块 模型执行；类别 source；类型 core-logic；符号 Qwen3NextAttention.init, _project_qkv_gate, use_fused_qk_norm_rope_gate）: 唯一变更文件。将 use_fused_qk_norm_rope_gate 的平台判定从仅 CUDA 扩展为 CUDA 或 XPU，使 Qwen3Next 的注意力前向在 Intel XPU 上走 fused_qk_rmsnorm_rope_gate Triton 融合内核，实测 decode 提速 55%、prefill 提速 23%。

关键符号：Qwen3NextAttention.init, _project_qkv_gate

关键源码片段

vllm/model_executor/models/qwen3_next.py

唯一变更文件。将 use_fused_qk_norm_rope_gate 的平台判定从仅 CUDA 扩展为 CUDA 或 XPU，使 Qwen3Next 的注意力前向在 Intel XPU 上走 fused_qk_rmsnorm_rope_gate Triton 融合内核，实测 decode 提速 55%、prefill 提速 23%。

# 判断是否启用融合的 gated split + QK-RMSNorm + (partial) NeoX RoPE + gate 拷贝内核。
mm_config = model_config.multimodal_config if model_config else None
# 纯文本场景一定可用；多模态场景需满足 mrope 条件（本 PR 未改动该逻辑）。
text_only = mm_config is None or mm_config.language_model_only
mrope_section = getattr(self.rotary_emb, "mrope_section", None)
supports_mrope = bool(
    type(self.rotary_emb) is MRotaryEmbedding
    and mrope_section
    and len(mrope_section) == 3
    and sum(mrope_section) == self.rotary_emb.rotary_dim // 2
    and getattr(self.rotary_emb, "mrope_interleaved", False)
)
# 内核当前仅支持 fp16/bf16，避免低精度 / 高精度路径被错误路由。
supports_dtype = getattr(self.rotary_emb, "dtype", None) in (
    torch.float16,
    torch.bfloat16,
)
# 融合条件：
# 1. 模型启用了注意力输出 gate；
# 2. RoPE 为 NeoX 风格；
# 3. 平台为 CUDA 或 XPU（本 PR 新增 XPU 支持，Triton 内核本身跨平台可运行）；
# 4. 满足 dtype 与 mrope 约束。
self.use_fused_qk_norm_rope_gate = (
    self.attn_output_gate
    and getattr(self.rotary_emb, "is_neox_style", False)
    and (current_platform.is_cuda() or current_platform.is_xpu())
    and supports_dtype
    and (text_only or supports_mrope)
)

评论区精华

PR 内没有实质性的代码讨论。claude[bot] 提示 "This pull request is from a fork — automated review is disabled"，自动 review 被跳过，最终由维护者 jikunshang 直接 approve。CI 侧的主要对话是分支同步：github-actions 提示 "❌ This PR is 2 commits behind upstream main ... Merge or rebase onto the latest main, then rerun /ci run"，维护者执行了多次 merge main 并重跑 CI，最终通过。

• CI 因分支落后 main 被拒 (other): 维护者多次 merge main 后重新触发 Buildkite CI，最终通过并获批。
• fork 仓库自动 review 被禁用 (other): 维护者 jikunshang 直接人工审批通过。

风险与影响

• 风险：改动仅放宽平台门控，CUDA 路径完全不变。XPU 上融合内核的正确性依赖已有 Triton 实现与 CI 覆盖；虽然 supports_mrope 与 dtype 约束被保留，但多模态 mrope 组合在 XPU 上的数值一致性没有专门的单元测试兜底，属于低风险盲区。另外该启用条件仅作用于 Qwen3Next 模型，其他模型与平台无影响。
• 影响：对 Intel XPU 用户运行 Qwen3Next 系列模型（含 Qwen3.5-9B）带来约 55% decode、23% prefill 的提速；对 CUDA、ROCm 及其他平台无影响。改动面仅 1 个文件 1 行，回归风险低，维护成本几乎为零。
• 风险标记：XPU 专属启用, 无直接单元测试, 仅覆盖 Qwen3Next 模型

关联脉络

• PR #56934 [XPU][CI]Skip test_chat_completion_with_tools in Intel GPU CI: 同为 Intel XPU 平台维护：该 PR 在 XPU CI 中剔除不兼容用例，本 PR 为 XPU 启用融合内核，两者共同推进 vLLM 在 Intel GPU 上的可用性与性能。