sgl-project/sglang

为 AMD GPU 启用 Kimi-K3 12 头 MLA FP8 Gluon 解码，显著提升长上下文吞吐。

该 PR 值得精读，尤其是以下设计决策：1) **运行时探针与优雅降级模式**：通过 `MlaGluonCapability` 数据类和分层检查（环境变量、导入、API 存在性），实现了对硬件和软件依赖的动态适应，是处理可选硬件加速功能的优秀范例。2) **零填充拓扑的泛化**：将原来的硬编码填充逻辑抽象为 `head_pad_mode`（"repeat"/"zero"/"none"），为未来支持其他低头数模型（如 h4, h8）的优化提供了扩展点。3) **最小化变更边界**：尽管涉及核心解码路径，但通过清晰的条件判断和回退机制，确保了对非目标配置的零影响。

修复 Qwen3.5 MoE 单元测试因使用错误模拟方式导致的 Xeon CI 失败。

这是一个清晰、小规模且必要的测试修复 PR。它正确地解决了由前序 PR 引入的测试回归问题，且不涉及生产代码。对于维护 CI 健康和测试准确性很重要，但代码逻辑简单，**值得快速审阅**以确认修复的正确性，但不需要进行深入的代码逻辑分析。PR body 已充分解释了动机和修改，是一个良好的实践。

为 GLM-5.3-Flash 食谱添加 NVFP4 量化部分，扩展 Blackwell 硬件支持。

本 PR 是一个有价值的文档更新，值得精读以了解 NVFP4 量化食谱的配置细节和性能数据。变更逻辑清晰，风险低，但建议关注配置中的硬件限制和验证状态，确保用户正确使用。适合需要在 Blackwell 硬件上部署量化模型的开发者参考。

重构 hicache 解码端卸载管理器，简化状态簿记，消除潜在内存泄漏。

该 PR 是一个高质量的、必要的重构。它解决了之前实现中的几个设计问题，提升了代码的健壮性和可维护性。建议精读，特别是 `_release_finished_req` 方法的新逻辑以及弱引用机制如何与 `ongoing_offload` 中的强引用协同工作。这对于理解 hicache 模块的内部工作原理和防止未来引入类似的内存管理问题非常有价值。

修复多模态特征传输失败导致的进程级崩溃，实现跨 rank 错误共识与资源安全释放。

本 PR 是一个**高价值的关键 bug 修复**，强烈建议精读。它解决了一个可能导致生产环境进程崩溃的严重问题，并引入了严谨的分布式错误处理模式。核心设计决策——延迟错误、跨 rank 共识、防御性资源释放——对于理解 SGLang 如何处理多模态输入失败非常有启发性。建议重点审查以下方面：1) `scheduler.py` 中 `_materialize_cuda_vmm_inputs` 和 `_gather_vmm_materialization_errors` 的错误收集与同步逻辑；2) `mm_utils.py` 中 `ShmPointerMMData` 的 `__setstate__` 和 `close_and_unlink` 方法如何安全处理各种失败场景；3) `schedule_batch.py` 中 `release_transport_proxies` 的实现及其在 `from_processor_output` 和 `set_finish_with_abort` 中的调用点。新增的单元测试覆盖了核心失败路径，值得参考。

补充4个测试fixture的kv_index_translator字段，适配HybridAttnBackend接口变更。

本PR是典型的“测试配套修复”，虽然改动微小，但值得快速阅读，特别是对于维护`HybridAttnBackend`或关注测试与生产代码一致性的开发者。它展示了在接口变更后如何系统性地更新测试fixture。

升级 MoRI 依赖，修复 ionic RoCE 上 KV 传输 EOF 错误

作为一行依赖版本升级，无需精读实现细节；但 AMD、hi-cache、disaggregation 相关团队应关注验证结论与 CI 失败项，建议合入前确认 Extra/AMD ROCm 7.2 流水线失败是否与本次 bump 相关。值得关注的设计决策是：将 MoRI 的 pin 放在 Dockerfile ARG 中并附带 NIXL/UCX 构建注释，便于快速定位和追踪上游依赖版本。

新增 Mooncake 后端外部链接器，支持跨节点 KV 加载

值得精读。本 PR 展示了如何将外部分布式存储接入 unified cache：异步后台线程 + Future 计数器的 layer-wise 加载协议、跨 rank 的 restorable 集合求交、以及 buffer 注册与键后缀对齐等设计，都是可复用的模式。建议重点看 MooncakeDirectLinker.load_layer_wise 与 MooncakeStore.batch_exists_v2 的改动，理解 TRAILING_PAGES 空洞语义为什么必须返回集合而不是单一前缀长度。