执行摘要

• 一句话：移除 AMD HiCache 的 layer_first 降级分支
• 推荐动作：建议合入：该 PR 逻辑清晰，是 #28534 的必要清理，消除死代码和矛盾逻辑。值得关注的是其与 #28534 的协作：先让 ROCm 支持 JIT 写回，再移除封堵。建议阅读 _resolve_layout_io_compatibility 的整体方法，理解 HiCache 的布局- IO 兼容性规范。

功能与动机

PR body 明确指出：page_first + kernel 的写回依赖于 CUDA 独有的 JIT 暂存内核，ROCm 上会回退到需要 CUDA 索引张量的内核并崩溃，因此之前强制使用 layer_first。但 #28534 已让 ROCm 支持 JIT 暂存写回，该 fallback 已成为矛盾逻辑，使 ROCm 永远无法到达正确的 page_first + kernel 路径。删除后 ROCm 可享受与 CUDA 相同的性能优势。

实现拆解

1. 定位降级代码：在 python/sglang/srt/server_args.py 的 _resolve_layout_io_compatibility() 方法中，删除从第5780行开始的 if 分支，该分支在 hicache_mem_layout == 'page_first'、hicache_io_backend == 'kernel' 且 is_hip() 为真时，将布局强制改为 layer_first。
2. 移除条件判断与日志：删除整个 if 块及其内部的 logger.warning 调用，确保不再输出误导性日志。
3. 验证无死引用：is_hip 在文件其他位置仍有使用，因此无需清理导入。
4. 测试确认：HiCache JIT 单元测试（test_hicache.py、test_hicache_page_first_write_back.py）在 MI355X（ROCm 7.2）上通过，验证 page_first + kernel 路径正常工作。

关键文件：

• python/sglang/srt/server_args.py（模块 配置；类别 source；类型 core-logic；符号 _resolve_layout_io_compatibility）: 移除 ROCm 专用降级分支，是 PR 的唯一变更文件。

关键符号：_resolve_layout_io_compatibility

关键源码片段

python/sglang/srt/server_args.py

移除 ROCm 专用降级分支，是 PR 的唯一变更文件。

# 删除前（base 版本）：
# 位于 python/sglang/srt/server_args.py 的 _resolve_layout_io_compatibility() 方法中
# The page_first kernel write-back relies on the CUDA-only JIT staged
# kernel. On ROCm it falls back to a kernel that requires CUDA index
# tensors and crashes on host write-back, so use layer_first there.
if (
    self.hicache_mem_layout == "page_first"
    and self.hicache_io_backend == "kernel"
    and is_hip() # ROCm 特有条件
):
    self.hicache_mem_layout = "layer_first" # 强制降级
    logger.warning(
        "page_first kernel write-back requires the CUDA JIT kernel; "
        "falling back to layer_first layout on ROCm."
    )
​
# 删除后（head 版本）：上述 `if` 块和对应日志被整体移除，
# _resolve_layout_io_compatibility 仅保留通用兼容性逻辑
# （page_first_direct + kernel -> direct，page_first + direct -> page_first_direct）
# 然后直接进入 _resolve_storage_layout_compatibility。

评论区精华

无实质性讨论。审核者 yctseng0211 和 HaiShaw 均批准，且 yctseng0211 提供了测试通过的截图（HiCache JIT 单元测试稳定通过）。机器人 gemini-code-assist[bot] 自动评论但无具体反馈。

• 暂无高价值评论线程

风险与影响

• 风险：回归风险：若 #28534 在部分 ROCm 配置（如较新驱动或非 MI355X GPU）上未完全生效，删除 fallback 可能导致 page_first + kernel 路径的写回行为异常。但开发者已在 MI355X 上通过单元测试验证，且 CI 测试套件覆盖了 AMD HiCache 服务场景，风险可控。
  无其他风险：仅删除 14 行逻辑，路径狭窄，不影响非 HiCache 路径。

• 影响：影响范围：仅影响 AMD GPU（ROCm）启用 HiCache 且指定 --hicache-mem-layout page_first --hicache-io-backend kernel 的用户。这些用户之前会被静默降级到 layer_first，现在直接启用 page_first + kernel 路径，可获得暂存写回带来的带宽提升。
  影响程度：中低。路径窄，且已通过单元测试；但若实际生产环境存在边缘情况，可能需要回滚。

• 风险标记：缺少测试覆盖

关联脉络

• PR #28534 Enable JIT staged HiCache write-back on ROCm: 本 PR 是 #28534 的后续清理，移除因 #28534 启用后而变得多余的 fallback。
• PR #28473 Add ROCm layer_first fallback for HiCache page_first kernel IO: 本 PR 移除 #28473 引入的 fallback 逻辑。