sgl-project/sglang

修复 VAE 映射门禁误用 repo id 导致匿名内存复制

值得精读，但重点不在代码量而在缺陷模式：这是一个典型的“函数入参语义与调用方假设不匹配”导致的静默失效——`checkpoint_bytes` 对不存在的路径返回 0 而非报错，使门禁逻辑静默失效且无任何告警。值得关注的设计决策：(1) 用“组件路径的父目录”作为部署体量的代理指标，避开 repo id 非本地路径问题；(2) 测试用同一个用例同时钉住两个半边（父目录求和、repo id 归零），把缺陷的根因固化为契约。后续类似“gate/策略基于路径或字节数判断”的代码都值得借鉴这种双断言测试。

扩散编码器量化准入改动态检测，兼容 checkpoint 免声明

值得精读。这是一个典型的「静态声明 → 运行时能力检测」设计迁移，两点经验可复用：其一，fail-closed 的检查点应放在副作用（读取权重）之前；其二，泛化机制必须显式保留既有特殊生命周期（自管理量化、BnB4 委托），避免一刀切破坏边界情况。建议结合 `test_qwen3_encoder.py` 新增的 packed QKV scale 契约测试阅读，理解量化加载的完整数据流。

映射层权重经 courier 线程异步搬运，去噪步骤提速约 31%

值得精读。核心看点：生产者-消费者双缓冲 courier 的设计（event 驱动 slot 复用、异常经结果通道发布、worker 只备张量不动模块状态、kill switch + 故障回退 + 阻塞直通三层兜底），以及“用测试环境变量把 CI 大卡压成消费级预算”的测试方法论。该模式可复用到其他 offload/预取场景，如后续的 VAE 常驻与主机内存预算守卫。

Weight Daemon 引入可插拔传输后端，默认路径保持 torch_ipc

值得 weight_cache 与模型加载相关开发者精读。核心看点：可插拔后端抽象的接口切分（导出/响应/接收/导入四段）、daemon 与 client 通过协议字段协商后端的设计、以及占位后端 fail loud 的降级策略（宁抛错不静默回退）。一般读者重点阅读 transport.py 的接口设计与 daemon._export_state 的接入方式即可；同时留意 _send_fd/_recv_fd 尚未启用，启用 VMM 后端前应补齐 GPU E2E 与 fd 故障测试。

删除 Common KV 连接层 3 处死桩，恢复 ABC 强制

值得快速精读，尤其是 PR body 的验证方法论：作者用 AST 遍历证明死代码不可达、用 abstractmethod 集合对比证明 ABC 语义变化、用镜像类实测构造行为，是"删除代码"类 PR 的高质量范本。核心设计决策是"删除而非修正"——通过恢复 ABC 强制，把未来后端的实现遗漏从运行时无声失败提前到构造期显式报错，这类"用类型/抽象约束消灭一类 bug"的思路可直接借鉴。

STAGING_REQ 处理去重为共享 mixin，覆盖 Mooncake/NIXL

值得快速精读。关注三点：① 用 AST 等价性验证「move 而非 rewrite」的方法论——先证明两份旧拷贝完全相同，再证明新 mixin 与旧实现归一化后等价；② mixin 与基类方法的选择理由（`MoriKVManager` 无 staging 支持，放基类会埋雷）；③ 把「子类需提供哪些属性」写进 docstring 的隐式契约文档化实践。对 disagg 维护者，`staging_handler.py` 从此是 staging 消息处理的唯一入口，值得收藏。

支持 Transformers 序列化 BnB4 组件加载，统一准入契约

值得精读。该 PR 展示了如何为“允许 Transformers 接管某类检查点”设计清晰的准入边界（`uses_native_transformers_bnb4` + `NativeComponentLoaderRequired` 双闸门），以及如何通过基类钩子（`resolve_native_transformers_model_class`）将架构相关逻辑从通用加载路径中隔离。阅读重点：`component_loader.py` 的 `load_native` 泛化逻辑与 `text_encoder_loader.py` 的 encoder-only 类解析迁移，可为后续新增量化检查点格式提供参考模板。

修复 Pixtral 多图请求在 CUDA IPC 下切片代理导致的 HTTP 500

值得精读。核心设计是“把 CUDA IPC 包裹固定为 pipeline 最后一步”的生命周期保证，而不是给代理加切片能力；`_finalize_mm_items` 的 hook 顺序、`copy.copy` 后重置派生字段、以及 fail-loud 基数校验都是可迁移到其他多模态处理器的模式。建议重点关注 `_postprocess_mm_items_before_transport` 的可重写约定，以及测试中用 `object.__new__` 构造被测对象的技巧。合并后建议观察一段时间多模态请求与 CI 稳定性，确认无周边 processor 回归。