执行摘要

• 一句话：XPU 无权重 RMSNorm 路由至 _C 内核
• 推荐动作：值得精读，作为 XPU 平台性能优化的小而精范例。展示了如何在外围库能力就绪后，干净地移除旧 fallback，简化代码并提升性能。

功能与动机

修复 XPU 平台无权重 RMSNorm 计算路径未能利用新内核的问题。PR body 指出：vllm-xpu-kernels 已支持无权重 RMSNorm，但 vLLM 调度仍回退到原生/IR 实现，导致性能损失。通过移除 weight=None 时的 fallback，确保直接调用 _C 内核。

实现拆解

1. 在 vllm/kernels/xpu_ops.py 的 rms_norm 函数中，删除当 weight is None 时创建全 1 权重张量的分支，直接调用 torch.ops._C.rms_norm(output, x, weight, epsilon)。
2. 在同样文件的 fused_add_rms_norm 函数中，同理删除创建全 1 权重的分支，直接调用 torch.ops._C.fused_add_rms_norm(x, x_residual, weight, epsilon)。
3. 条件检查 supports_args 中的 rms_no_var 和 rms_add_no_var_size 保持不变，它们已允许 weight is None，因此调度器会在满足条件时自动选入此实现。

关键文件：

• vllm/kernels/xpu_ops.py（模块 XPU 内核；类别 source；类型 core-logic；符号 rms_norm, fused_add_rms_norm）: 核心变更文件，修改了 rms_norm 和 fused_add_rms_norm 两个函数，移除 weight is None 时的 fallback 逻辑。

关键符号：rms_norm, fused_add_rms_norm

关键源码片段

vllm/kernels/xpu_ops.py

核心变更文件，修改了 rms_norm 和 fused_add_rms_norm 两个函数，移除 weight is None 时的 fallback 逻辑。

# vllm/kernels/xpu_ops.py (head)
​
# ... 省略头部 import 和辅助函数 ...
​
@ir.ops.rms_norm.register_impl(
    "xpu_kernels", supports_args=rms_no_var, supported=XPU_KERNELS_SUPPORTED
)
def rms_norm(
    x: Tensor, weight: Tensor | None, epsilon: float, variance_size: int | None = None
) -> Tensor:
    assert variance_size is None
    # 直接调用 _C 内核，weight 可以为 None（新内核支持）
    output = torch.empty(x.shape, device=x.device, dtype=x.dtype)
    torch.ops._C.rms_norm(output, x, weight, epsilon)
    return output
​
​
@ir.ops.fused_add_rms_norm.register_impl(
    "xpu_kernels",
    supports_args=rms_add_no_var_size,
    supported=XPU_KERNELS_SUPPORTED,
    inplace=True,
)
def fused_add_rms_norm(
    x: Tensor,
    x_residual: Tensor,
    weight: Tensor | None,
    epsilon: float,
    variance_size: int | None = None,
) -> tuple[Tensor, Tensor]:
    assert variance_size is None
    # 直接调用 _C 内核，weight 可以为 None
    torch.ops._C.fused_add_rms_norm(x, x_residual, weight, epsilon)
    return x, x_residual

评论区精华

无实质 review 讨论。Issue 评论中 xinyu-intel 建议在 vllm-xpu-kernels 落地前将 PR 转为 draft，表明需等待外部依赖就绪。最终由 jikunshang 批准合并。

• draft 状态建议 (other): 未发现 PR 转为 draft，但最终合入。

风险与影响

• 风险：低风险。变更仅删除两条 fallback 分支，传递 None 给底层内核。若新内核不支持 weight=None 或未正确安装，可能导致运行时错误。但 XPU_KERNELS_SUPPORTED 标志已在文件开头检查，确保只有在 vllm-xpu-kernels 可用时才启用该实现路径。
• 影响：对 XPU 用户：无权重 RMSNorm 计算将直接调用 _C 内核，避免原生回退，预期提升吞吐。对其他平台无影响。影响范围限于单文件、两函数。
• 风险标记：依赖外部库 vllm-xpu-kernels 的特定版本, 无测试配套

关联脉络

• PR #49582 [EC Connector] Add has_pending_push_work : 同为 v1+性能相关 PR，但无直接关联。
• PR #49114 Add CachePolicyFactory for pluggable/external eviction policies: 同为 XPU 无关，仅作为近期活跃 PR 参考。