sgl-project/sglang

新增 Inkling MXFP8 KV 的 PD 测试，修复 retraction 状态备份

值得精读。这是一个典型的"测试驱动发现缺陷并落地通用修复"的 PR：值得关注的点包括——如何通过有界设备池刻意制造 retraction 让测试有守卫价值；cpu_copy_carries_mamba 契约标志如何避免 KV pool 与调用方重复备份或双双漏备份；uses_ssm_state 统一判定如何防止 host_pool 后端误伤带 recurrent 状态的模型；以及单元测试用桩对象精确刻画两种备份场景的手法。

修复 decode retraction 的 recurrent state 静默丢失

值得精读。三个设计决策有借鉴价值：用类属性（`cpu_copy_carries_mamba`）声明式描述池能力，而非在调用方做 `isinstance` 特判；用共享谓词（`uses_ssm_state`）消除两处判定逻辑的分裂，避免"一个看 attention、一个看 recurrent state"的夹缝模型；用轻量 stub 类在纯 CPU 单测中完整覆盖备份/恢复双分支，验证成本极低。对排查同类"同一签名、不同实现"导致的静默错误有直接参考意义。

MiniMax H3 文本编码器支持 GGUF 检查点加载

值得精读。重点看三个设计决策：1. 如何在 `read_gguf_tensor_meta` 中通过 Comfy orig_shape 元数据做「打包 vs 加载期反量化」的二元判定；2. `GGUFConfig.retain_tensor_meta` 与模型类 `should_materialize_checkpoint_weight` 配合实现的延迟层过滤，避免加载未使用的语言层；3. `parameter_name_mapper` 与 `name_mapper` 拆分，保证 checkpoint 参数名映射不丢失信息。若你关注 diffusion 组件的加载扩展，这是很好的参考实现。

支持原生加载 Comfy NVFP4 量化 MiniMax H3 检查点

值得快速阅读，核心看点是"从 safetensors 元数据自描述推断量化布局"与"配置合并时对 Comfy 专属开关做 OR 合并"两个模式，对后续扩展其他模型/后端的 Comfy 序列化检查点支持有直接借鉴价值；对不涉及量化加载的读者可以只看实现拆解与风险部分。

支持混合 W4A4 与 INT8 序列化检查点加载

值得精读 `kitchen_w4a4_config.py` 中的委托模式，它展示了如何在保持既有量化方法不变的情况下，通过配置聚合支持混合格式。虽然代码量不大，但 `get_quant_method` 和 `supports_input_partition` 的双路委托是复用已有能力的好例子。建议阅读 `quantization_utils.py` 中的格式组合分支，理解自动检测的边界。

调度器内部状态新增整机 world_size 字段

值得快速浏览：它展示了如何在不破坏现有契约的前提下，为调度器内部状态叠加一个派生字段，并用四象限测试矩阵固定 DP / DP attention 的并行语义边界。关注 observability 或调度状态契约的读者可以精读 scheduler.py 的 get_internal_state() 与新增测试文件。

调度器内部状态支持可选导出声明环境变量

值得精读，尤其关注安全边界设计：默认关闭的开关 + 声明式 secret 标记 + 白名单导出，可作为对外暴露内部信息的参考模式。

新增门控启动机制,延迟服务启动的显存分配

值得精读。核心代码虽然只有 96 行,但「在分布式初始化后与显存分配前插入同步屏障」的切入位置选择,以及「控制端口幂等激活 + CPU group 广播」的实现方式,对理解 sglang 启动流程和编排集成很有价值。配套测试(显存量化断言 + gloo 多进程广播)也是很好的测试设计范例。建议关注:1) 门控点为何选在 `pre_model_load_memory` 之前而非更早;2) 无超时设计在真实编排场景中的风险。