执行摘要

• 一句话：引入sglang.kernels统一命名空间并迁移52个triton_ops内核模块
• 推荐动作：该PR是关键的基础设施重构，值得内核开发者和架构师精读。推荐关注fused_op.py中BaseFusedOp合约和spec.py中元数据设计，未来新增内核应优先建立BaseFusedOp子类并注册到sglang.kernels.ops.*。审稿中未解决的PlatformInfo.detect异常处理问题建议在后续PR中跟进修复。

功能与动机

RFC #29630指出，SGLang的内核代码分散在多个目录（jit_kernel、sgl_kernel、srt/**/triton_ops、模型特定路径），导致难以判断某个算子是否已有内核实现、难以比较替代实现、正确性测试不统一、后端覆盖率难以检查。引入统一命名空间使新内核PR有清晰的公开API目标，并简化未来的agent化内核工作。

实现拆解

1. 建立核心元数据包 (python/sglang/kernels/spec.py)：定义KernelBackend枚举（torch/triton/cuda_jit/cuda_aot/flashinfer/deepgemm等）、PlatformInfo（运行时加速器快照）、CapabilityRequirement（硬件需求过滤）和KernelSpec（单个可调用内核的元数据，包含目标导入路径）。这些不导入torch，保持轻量。

2. 注册表与选择器 (registry.py, selector.py)：KernelRegistry以"<group>.<name>"为键管理所有KernelSpec，支持注册、查询、枚举。select_kernel根据操作名和可选的backend名返回固定KernelSpec，单后端操作自动解析，多后端需显式指定backend。get_kernel包装选择器并缓存已解析的可调用对象，供公共包装器使用。

3. 多后端融合算子合约 (fused_op.py)：BaseFusedOp抽象基类定义每个逻辑算子的多后端契约：必须实现forward_native（纯torch参考），可选择性实现forward_triton/forward_cuda_jit/forward_cuda_aot等。forward()根据优先级自动选择可用后端，支持通过环境变量SGLANG_FORCE_FUSED_OP_BACKEND强制使用特定后端（如native）用于数值调试。同时提供可选调用跟踪功能。

4. 迁移所有分散的triton_ops内核：将srt/**/triton_ops中的52个内核模块按组迁移到sglang.kernels.ops.<group>（如attention/kvcache/gemm/moe/sampling/mamba等）。所有消费端的导入路径同步重写，包括包级__init__重新导出、import ... as别名、调优benchmark中的硬编码路径。废弃的models/triton_ops/deepseek_v4.py（0引用）被删除。

5. 将4个明确无歧义的调用点切换到新命名空间：sgl_per_token_quant_fp8、topk_softmax、moe_align_block_size、silu_and_mul改为从sglang.kernels.ops.*导入（仍通过包装器调用相同的sgl_kernel函数），其余后端选择点和存在性保护点保持原样。

6. 配套测试：新增test_kernels_namespace.py（CPU CI，验证命名空间导入、注册表内容、包装器可调用）和test_fused_op.py（CPU CI，验证BaseFusedOp的backend检测、优先级调度、显式backend、能力门控、跟踪等），以及test_fused_op_gpu_parity.py（GPU CI，验证layernorm/activation各后端输出与native一致）。

关键文件：

• python/sglang/kernels/fused_op.py（模块 融合算子；类别 source；类型 dependency-wiring；符号 _platform, get_fused_op_backend, set_fused_op_backend, FusedOpTraceRecord）: 定义了BaseFusedOp抽象基类，提供多后端融合算子合约（multi-backend operator contract），是命名空间的核心设计。引入了后端优先级、能力门控、强制后端开关和调用跟踪等机制。
• python/sglang/kernels/spec.py（模块 元数据层；类别 source；类型 dependency-wiring；符号 KernelBackend, PlatformInfo, is_cuda, is_hip）: 定义了核心元数据类（KernelBackend/PlatformInfo/CapabilityRequirement/KernelSpec），这些是注册表和选择器的基石，确保命名空间轻量且不提前导入torch。
• python/sglang/kernels/selector.py（模块 选择器；类别 source；类型 dependency-wiring；符号 select_kernel, _resolve, get_kernel, clear_cache）: 实现了固定路径内核解析器select_kernel和缓存封装get_kernel，是公共ops.*包装器的底层调用路径。
• python/sglang/kernels/registry.py（模块 注册表；类别 source；类型 dependency-wiring；符号 KernelRegistry, init, register, get）: 实现进程范围内的KernelRegistry，管理所有KernelSpec的注册、查询和枚举，是命名空间的中央仓库。
• test/registered/kernels/test_fused_op.py（模块 融合算子测试；类别 test；类型 test-coverage；符号 _ToyAddOp, forward_native, forward_triton, _CudaOnlyToyOp）: GPU无关单元测试，验证BaseFusedOp的后端检测、优先级、强制后端、能力门控和跟踪功能，确保CPU CI可运行。
• test/registered/kernels/test_kernels_namespace.py（模块 命名空间测试；类别 test；类型 test-coverage；符号 TestKernelsNamespace, setUp, test_top_level_exports, test_all_groups_importable）: GPU无关单元测试，验证命名空间导入、注册表内容、包装器可调用性和单后端自动解析，确保命名空间在CPU下正常工作。

关键符号：select_kernel, get_kernel, register_kernel, KernelRegistry.register, KernelRegistry.get, PlatformInfo.detect, CapabilityRequirement.is_satisfied_by, BaseFusedOp.forward, BaseFusedOp.available_backends, get_fused_op_backend, set_fused_op_backend, enable_fused_op_trace, disable_fused_op_trace

关键源码片段

python/sglang/kernels/selector.py

实现了固定路径内核解析器select_kernel和缓存封装get_kernel，是公共ops.*包装器的底层调用路径。

# python/sglang/kernels/selector.py
# 固定路径内核解析：没有优先级排名或启发式后端选择
​
from __future__ import annotations
from functools import lru_cache
from typing import Callable, Optional
​
from sglang.kernels.registry import registry
from sglang.kernels.spec import KernelBackend, KernelSpec
​
​
def select_kernel(op: str, backend: Optional[KernelBackend] = None) -> KernelSpec:
    """返回操作op对应的KernelSpec（固定调用路径）。
​
    对于单个后端操作，直接返回该spec；
    对于多后端操作，必须指定backend参数才可解析，
    否则抛出ValueError（不会自动选择）。
    """
    specs = registry.get(op)
    if not specs:
        raise KeyError(f"No kernels registered for op {op!r}")
    if backend is not None:
        for spec in specs:
            if spec.backend == backend:
                return spec
        raise KeyError(f"No '{backend.value}' backend registered for op {op!r}")
    if len(specs) == 1:
        return specs[0]
    raise ValueError(
        f"op {op!r} has multiple registered backends "
        f"({[s.backend.value for s in specs]}); pass backend=... to choose one"
    )
​
​
@lru_cache(maxsize=None)
def _resolve(op: str, backend: Optional[KernelBackend]) -> Callable:
    """解析并缓存可调用对象。"""
    return select_kernel(op, backend=backend).load()
​
​
def get_kernel(op: str, backend: Optional[KernelBackend] = None) -> Callable:
    """解析操作op到可调用内核并缓存（public包装器调用入口）。"""
    return _resolve(op, backend)
​
​
def clear_cache() -> None:
    """清空已解析缓存（供测试使用）。"""
    _resolve.cache_clear()

评论区精华

• PlatformInfo.detect异常处理（未解决）：gemini-code-assist[bot]指出torch.version.hip可能引发AttributeError导致完全绕过CUDA检测，建议先检查torch.cuda.is_available()再安全访问hip属性。
• KernelSpec.load嵌套属性（未解决）：gemini-code-assist[bot]指出当前load()使用getattr(module, attr)无法处理嵌套属性（如SomeClass.some_method），建议递归分割属性名。

• 注册表测试与硬件扩展（已解决）：Fridge003询问KernelRegistry.register中_by_op[spec.op]是否会因不存在的键崩溃（BBuf回复使用defaultdict(list)确保安全）并建议添加单元测试和KernelBackend的硬件扩展TODO；BBuf已在后续提交中补充测试和TODO。

• PlatformInfo.detect 异常处理 (correctness): PR 中未见直接修复，但该路径在大多数 PyTorch 构建中不会触发。需确认后续是否有修复提交。

• KernelSpec.load 不支持嵌套属性 (design): PR 中未修复，因为当前 target 不涉及嵌套属性，但建议后续增强。
• 注册表测试覆盖与硬件扩展 (testing): 已解决：BBuf 添加了单元测试和 TODO 注释。

风险与影响

• 风险：
  1. 导入覆盖遗漏风险：虽然作者声称全面清理了引用，但动态导入字符串或配置中的硬编码路径（如调优benchmark）可能遗漏，导致运行时ImportError。
  2. 懒加载首次开销：新命名空间引入的get_kernel缓存和包装器调用约增加0.2 μs/次，在极端高频小算子调用场景可能累积影响。
  3. PlatformInfo.detect异常：torch.version.hip访问在特定PyTorch构建下可能抛出AttributeError，导致误判设备为CPU，影响后端选择。
  4. 多后端自动降级：BaseFusedOp的优先级自动选择可能在不兼容硬件上静默降级到native，用户若不设置强制后端可能无法感知行为变化。
  5. 废弃路径删除：models/triton_ops/deepseek_v4.py等废弃文件的删除可能影响外部项目的直接引用。
     - 影响：对开发者：需要将内核导入路径更新为sglang.kernels.ops.*，但运行时行为无变化。对系统：无性能回退或正确性影响（内核逻辑完全不变）。对团队：获得清晰的内核组织模型和扩展路径，便于未来添加新后端（如AMD/NPU/CPU）和统一的正确性测试。影响范围广泛，涉及attention、lora、speculative decoding、constrained decoding、memory cache等所有内核消费模块。
     - 风险标记：核心路径变更, 导入路径未覆盖风险, 异常处理待修复, 懒加载性能影响

关联脉络

• PR #30711 [Refactor] Split DeepSeek-V4 MQALayer into a reusable attention base: 两个PR都涉及注意力层/内核的重构，且#30711是近期重构#30044之后进行的，共同推进内核架构的模块化。
• PR #30627 Fix CuTe DSL DSA paged MQA export: 修复了内核导出路径，与#30044的命名空间迁移有重叠的导入层文件。