sgl-project/sglang

新增外部链接器设备池组装，支持 DSA 与 DeepSeek V4

值得精读。该 PR 是统一缓存外部链接器（HiCache）架构的关键一环，`DevicePoolEntry` 的元数据计算与 `DevicePoolGroup.resolve_transfers` 的展开语义是后续所有 linker 后端共用的基础。建议通读三个文件及配套测试，重点理解 `packed`/非 `packed` 布局、`rows_are_pages` 与稀疏 `layer_mapping` 的组合，以及 transfer 展开时 KV 强制 `ALL_PAGES` 的设计取舍。

补全 transformer 回退测试 fixture 缺失的 mock

值得快速浏览（约 1 分钟），不必精读。它展示了上游引入 fail-closed 组件助手后，测试 fixture 需要同步补属性的模式；对维护 diffusion 加载链路测试的工程师有参考价值。

为外部缓存链接器定义传输与加载契约，并跟踪插入采用的 KV 范围

建议精读。该 PR 展示了如何在不污染既有路径的前提下，通过阶段枚举和组件钩子为跨节点 KV 缓存定义清晰契约，值得学习其“先契约后实现”的拆分策略。关注重点：`record_adopted_range` 的区间合并语义、`external_cache_stored` 与 HiCache 备份的互斥设计，以及 SWA 的 TRAILING_PAGES 窗口对齐方式。

组件执行选项 fail-closed 化，显式配置未兑现即报错

值得精读。最有价值的设计是 selector.py 中在 context manager 的 `finally` 之后抛异常的写法——先保证上下文重置与日志汇总，再向调用方报告未兑现的显式选项；以及"显式 vs 自动"的语义区分（用户传入必须兑现，框架推导可以豁免）。对设计运行时准入校验的团队，这个 fail-closed 模式可以直接借鉴。

修复 Qwen-VL ViT CUDA graph 按布局复用与工作区地址绑定

值得精读。重点学习两个设计决策：一是 CUDA graph key 必须包含请求级元数据（仅按长度复用是典型的 graph 陷阱）；二是用“退役旧分配 + 按 graph 绑定地址”解决 capture 后地址失效问题。`_sequence_layout_key` 把同步从查找路径挪到 CPU 预处理的做法，也值得其他 CUDA graph runner 复用。

Cache-DiT 与层间卸载解除互斥，低显存加速达 6.8×

值得精读。核心设计决策“只信任真正运行的层”把两个正交特性的耦合点收敛到一个状态字段和两个释放函数上，改动极小却解决了复杂的顺序/跳层竞态；参数化测试矩阵（Fn/Bn × prefetch_size × residency policy × hit/miss/hit-again 序列）是很好的回归防护。建议关注三个细节：post-hook 记录 _last_forwarded_layer 的时机、_release_skip_gap 与 _retained_set 的差集保护、以及 prepare_for_next_req 对 Bn=0 遗留预取的兜底清理。

修复 VLM 解码错误分类与预处理池故障恢复

值得精读。该 PR 展示了如何优雅处理多进程池故障：将阻塞提交移出事件循环、用锁保证并发替换幂等、用后台线程清理旧池，以及用 `asyncio.shield` 配合 `gather(return_exceptions=True)` 做取消安全的资源清理。这些模式可复用于其他依赖进程池且需要异步超时的场景。建议关注池创建失败和取消延迟两个边界，后续可考虑补充对应测试。

为原生 VAE 增加组件级直接 GPU 权重流式加载

值得精读。重点关注 3 个设计决策：一是「拒绝优先于回退」的 fail-fast 原则如何在 3 层准入中落地；二是 meta 设备构造 + 流式逐张量赋值的加载模式，以及 `_direct_gpu_vae_state_slots` 对标准 ABI 的严格校验（函数对象同一性、集合全等、tied 参数拒绝）；三是 `ComponentLoader` 基类能力门控的可扩展性。阅读时建议对照 `test_vae_loader.py` 的 `TestDirectGPUVAEState` 理解预期行为边界。