执行摘要

• 一句话：FlashInfer 升级到 0.6.18，删除 Kimi-K3 定制镜像
• 推荐动作：值得快速浏览，了解“依赖升级 + 清理冗余镜像”的配套做法。重点观察：一是版本断言从 0.6.17 提升到 0.6.18 是否会误伤仍使用旧版本的环境；二是 AMD ROCm 7.2 CI 失败是否与本 PR 相关；三是删除 Kimi-K3 定制镜像的决策条件（官方 0.6.18 已覆盖 K3 能力）可作为后续清理类似定制镜像的参考。

功能与动机

PR body 仅提供 CI 状态，没有直接说明动机。从变更内容推断：FlashInfer 0.6.18 发布后，官方已覆盖 Kimi-K3 所需的 MXFP4 MoE 等能力，SGLang 不再需要维护定制镜像（包含 DeepEP topk 16、SWITCH_HIDDEN 3584、SourceMeta 对齐等补丁），因此升级依赖并删除定制脚本；Kimi-K3 文档中移除 "pinned FlashInfer 0.6.17 dependency" 的表述也印证了这一点。

实现拆解

1. 升级版本常量：python/pyproject.toml 中 flashinfer_python[cu13]==0.6.18；python/sglang/srt/entrypoints/engine.py 的 _set_envs_and_config 中将 assert_pkg_version 的最低版本参数从 0.6.17 改为 0.6.18；python/sglang/srt/utils/common.py 的 check_pkg_version_at_least docstring 示例版本同步更新；docker/Dockerfile 的 FLASHINFER_VERSION 从 0.6.17 改为 0.6.18，docker/Dockerfile.cu134 从 0.6.18rc10 改为正式版 0.6.18。
2. 删除 Kimi-K3 定制镜像与补丁脚本：docker/kimi_k3/ 下 apply_deepep_k3_patch.sh（169 行）、kimi_k3_cu12.Dockerfile（113 行）、kimi_k3_cu13.Dockerfile（101 行）整体删除，因为 0.6.18 不再需要 DeepEP topk/SWITCH_HIDDEN/SourceMeta 对齐等补丁。
3. 清理引用：docs/cookbook/autoregressive/Moonshotai/Kimi-K3.mdx 移除 "pinned FlashInfer 0.6.17 dependency" 的表述；test/registered/unit/mem_cache/test_unified_mamba_views.py 的 TestKDAFlashInferEnvelopeStateContract docstring 去掉 "pinned flashinfer_python==0.6.17" 注解。
4. 测试与 CI：核心代码无行为变化，测试仅更新注释；CI 运行了 pr-test 与 pr-test-extra 均通过，但 AMD ROCm 7.2 运行失败（Run #33289293415）；该 PR 带 release-highlight 标签，属于发布前依赖升级流程的一部分。

关键文件：

• python/pyproject.toml（模块 依赖配置；类别 config；类型 configuration）: 核心依赖版本升级的源头，flashinfer_python[cu13]==0.6.18，影响所有 pip 安装用户。
• docker/kimi_k3/apply_deepep_k3_patch.sh（模块 定制镜像；类别 infra；类型 deletion）: 整个 DeepEP patch 脚本被删除，说明 FlashInfer 0.6.18 使 Kimi-K3 不再需要 topk 16、SWITCH_HIDDEN 3584、SourceMeta 对齐等打补丁。
• python/sglang/srt/entrypoints/engine.py（模块 启动检查；类别 source；类型 core-logic；符号 _set_envs_and_config）: 启动时对 flashinfer_python 的最低版本断言从 0.6.17 提升到 0.6.18，是运行时版本门槛。
• docker/kimi_k3/kimi_k3_cu12.Dockerfile（模块 定制镜像；类别 infra；类型 deletion）: 删除 CUDA 12.9 定制镜像，其 pin 的 flashinfer 0.6.17 不再需要。
• docker/kimi_k3/kimi_k3_cu13.Dockerfile（模块 定制镜像；类别 infra；类型 deletion）: 删除 CUDA 13 定制镜像，其 pin 的 flashinfer 0.6.17 不再需要。
• python/sglang/srt/utils/common.py（模块 工具函数；类别 source；类型 documentation；符号 check_pkg_version_at_least）: check_pkg_version_at_least 的 docstring 示例版本号更新，保持文档与实现一致。
• docker/Dockerfile（模块 镜像构建；类别 infra；类型 infrastructure）: 基础镜像的 FlashInfer 版本参数与依赖声明对齐。
• docker/Dockerfile.cu134（模块 镜像构建；类别 infra；类型 infrastructure）: CUDA 13.4 镜像的 FlashInfer 从 rc10 转为正式版 0.6.18，行为更稳定。
• test/registered/unit/mem_cache/test_unified_mamba_views.py（模块 缓存测试；类别 test；类型 test-coverage；符号 TestKDAFlashInferEnvelopeStateContract）: KDA 状态契约测试的 docstring 移除对 0.6.17 的 pin 引用，说明该测试不再绑定特定 FlashInfer 版本。
• docs/cookbook/autoregressive/Moonshotai/Kimi-K3.mdx（模块 文档；类别 docs；类型 documentation）: 文档移除 “pinned FlashInfer 0.6.17 dependency” 的表述，与新版本事实对应。

关键符号：assert_pkg_version, check_pkg_version_at_least, _set_envs_and_config

关键源码片段

python/sglang/srt/entrypoints/engine.py

启动时对 flashinfer_python 的最低版本断言从 0.6.17 提升到 0.6.18，是运行时版本门槛。

# python/sglang/srt/entrypoints/engine.py — 启动阶段版本门槛（摘录）
def _set_envs_and_config(server_args: ServerArgs):
    # 前面逻辑设置 CUDA_DEVICE_MAX_CONNECTIONS、TRTLLM_ENABLE_PDL 等环境变量
    ...
    # 版本检查默认开启，可用 SGLANG_SKIP_SGL_KERNEL_VERSION_CHECK 跳过
    if not get_bool_env_var("SGLANG_SKIP_SGL_KERNEL_VERSION_CHECK"):
        # 只有启用了 flashinfer attention 后端时才强制最低版本
        if "flashinfer" in attention_backends_of(resolved_view(cfg)):
            assert_pkg_version(
                "flashinfer_python",
                "0.6.18", # 本 PR 从 0.6.17 提升；低于此版本直接拒绝启动
                "Please uninstall the old version and "
                "reinstall the latest version by following the instructions "
                "at https://docs.flashinfer.ai/installation.html.",
            )
        if _is_cuda:
            assert_pkg_version(
                "sglang-kernel",
                "0.4.6.post1",
                "Please reinstall the latest version with `pip install sglang-kernel --force-reinstall`",
            )

# python/sglang/srt/utils/common.py — 版本断言核心实现
_should_skip_kernel_pkg_version_check = ... # 受 SGLANG_SKIP_SGL_KERNEL_VERSION_CHECK 门控
​
def assert_pkg_version(pkg: str, min_version: str, message: str):
    # 显式跳过开关存在时直接放行，用于 CI 或特殊环境
    if _should_skip_kernel_pkg_version_check(pkg):
        return
​
    try:
        installed_version = version(pkg)
        # 版本低于要求时抛出异常，并附带安装指引
        if pkg_version.parse(installed_version) < pkg_version.parse(min_version):
            raise Exception(
                f"{pkg} is installed with version {installed_version}, which "
                f"is less than the minimum required version {min_version}. " + message
            )
    except PackageNotFoundError:
        # 包完全未安装时也视为不满足要求
        raise Exception(
            f"{pkg} with minimum required version {min_version} is not installed. "
            + message
        )

评论区精华

该 PR 没有 review 评论，review_comments_count 为 0，仅 Fridge003 给了 APPROVED。唯一一条 issue 评论是 mintlify bot 的文档预览通知。因此没有实际的设计讨论或争议点。

• 暂无高价值评论线程

风险与影响

• 风险：
  1. 核心依赖升级：FlashInfer 0.6.17 → 0.6.18 影响所有启用 flashinfer attention/quant 后端的推理路径，虽然 API 层无改动迹象，但 kernel 行为（如精度、性能）可能有细微差异，需要依赖回归测试确认。
  2. AMD ROCm 7.2 CI 失败：PR 状态的 AMD ROCm 7.2 运行标红，可能表示新版本在 ROCm 环境存在兼容性问题，也可能仅是 CI 环境故障，合并前需单独确认。
  3. 删除 K3 定制镜像：若仍有用户或发布流程依赖 docker/kimi_k3/ 下的镜像入口，删除后会导致构建链路缺失；从仓库现状看这些镜像可能是过渡产物，但需要确保发布文档已同步。
     - 影响：用户侧：通过 pip 安装 sglang 时会自动获取 FlashInfer 0.6.18；使用 flashinfer 后端的推理路径全部受影响，但预期无破坏性变化。系统侧：Docker 镜像的 FlashInfer 版本与 pyproject 对齐，Dockerfile.cu134 从 rc10 转为正式版，镜像行为更稳定。团队侧：Kimi-K3 定制镜像和 DeepEP 补丁脚本的维护成本被移除，减少了专用构建入口，降低了后续升级时的同步负担。
     - 风险标记：核心依赖升级, AMD ROCm CI 失败, 删除 K3 定制镜像

关联脉络

• PR #36985 test: re-enable FlashInfer per-token NVFP4 coverage: 本 PR 升级 FlashInfer 后，36985 重新启用了 Blackwell NVFP4 测试，两者都属于 FlashInfer 版本演进后的配套验证工作。