执行摘要
本 PR 是 1 个文件、6 行的小型构建修复：在 python/sglang/kernels/aot/csrc/kvcacheio/transfer.cu 中为 HIP 批拷贝路径增加 HIP_VERSION >= 70200000 守卫，避免 ROCm 7.0 镜像因使用 hipMemcpyBatchAsync 而编译失败。改动仅影响编译期条件分支，无运行时行为变化，风险极低。
功能与动机
PR body 明确指出：commit d22c4cc 破坏了 ROCm 7.0 镜像构建（"broke ROCm 7.0 image build"）。该提交引入了 hipMemcpyBatchAsync 的候选路径，但 ROCm 7.0 不支持该 API，导致 AOT 内核库在 7.0 上无法编译。修复方式是为该路径增加版本守卫，仅允许 ROCm >= 7.2 使用。
实现拆解
- 定位问题代码：在
transfer.cu 的 transfer_kv_page_first_direct_impl 函数内，外层条件 #if defined(USE_ROCM) || !defined(CUDA_VERSION) || CUDA_VERSION < 12080 已限定非 CUDA 或低版本 CUDA 环境。
- 收紧内层条件：将内层原本的
#if defined(USE_ROCM) 改为 #if defined(USE_ROCM) && defined(HIP_VERSION) && HIP_VERSION >= 70200000，使 HIP 批拷贝路径（kEnableHipBatch = false）只在 ROCm >= 7.2 时进入候选分支。
- 更新注释：同步将注释改为 "requires ROCm >= 7.2"，明确该路径的版本要求。
- 测试配套：PR body 声明 Accuracy Tests 与 Speed Tests 均为 N/A，未新增单元测试，完全依赖 CI 构建验证。
python/sglang/kernels/aot/csrc/kvcacheio/transfer.cu
唯一的变更文件，包含 transfer_kv_page_first_direct_impl 函数中 HIP 批拷贝路径的编译条件守卫，是本次构建修复的核心。
// transfer.cu: transfer_kv_page_first_direct_impl 内批量页拷贝的条件编译守卫。
// 外层条件：仅在 ROCm 或 CUDA < 12.8 时走该拷贝路径。
#if defined(USE_ROCM) || !defined(CUDA_VERSION) || CUDA_VERSION < 12080
// 内层守卫：原来是任意 USE_ROCM 都启用 HIP 批拷贝路径，
// 现在收紧为 ROCm >= 7.2（HIP_VERSION >= 70200000），
// 因为 d22c4cc 引入的 hipMemcpyBatchAsync 用法在 ROCm 7.0 上无法编译。
#if defined(USE_ROCM) && defined(HIP_VERSION) && HIP_VERSION >= 70200000
// Opt-in HIP batch copy path (mirrors cudaMemcpyBatchAsync); requires
// ROCm >= 7.2. Disabled by default, falls back to per-page copy below.
constexpr bool kEnableHipBatch = false;
if (kEnableHipBatch) {
// 批量拷贝逻辑（当前默认关闭，不会执行）
}
#endif
#endif
评论区精华
- 作者 @akao-amd 在 issue 评论中 @了 @TianDi101 与 @HaiShaw，请求关注。
- 维护者 @HaiShaw 评论 "HIP VERSION refinement"，概括了本 PR 的核心——对 HIP 版本宏做精细化判断。
无实质设计讨论或未决问题。
风险与影响
- 风险：极低。
defined(HIP_VERSION) 的短路判断保证了宏未定义时也能安全回退到逐页拷贝；kEnableHipBatch 默认关闭，行为不变。唯一需要关注的是 ROCm 7.0/7.1 上该路径被禁用后是否有潜在性能差异，但该路径本就默认关闭，因此无影响。
- 影响：修复了 ROCm 7.0 镜像构建失败问题，惠及 AMD 平台的低版本 ROCm 用户；对 CUDA 与其他平台无影响。
关联脉络
该 PR 是近期 AMD 平台兼容性维护的一部分。同仓库最近的 AMD 相关 PR（如 #35105 回滚 GLM5 融合、#34645 增加 ROCm 7.2 nightly 基准）表明 AMD 平台在快速迭代中持续有版本差异与回退处理，本 PR 为后续 HIP 新特性的引入提供了版本守卫的参考模式。
参与讨论