sgl-project/sglang

支持原生加载 Comfy 序列化 INT8 编码器

值得精读。重点学习三点设计：一是 fail-closed 的加载准入（marker 未消费即报错，避免静默降级到不兼容的 Transformers 加载器）；二是 `param_names_mapping` 把 checkpoint 命名空间与 native 参数解耦的通用模式；三是 `supports_input_partition` 作为量化后端与 TP 分片之间的契约。这三个模式对后续把更多 Comfy/外部量化格式接入 SGLang 有直接参考价值。

LTX-2.3 多 GPU 预热帧数升至 25，稳定冷启动首请求

值得精读 `warmup_request_builder.py` 中的 `_resolve_warmup_num_frames`：它演示了“让 warmup 覆盖 serving 真实 shape”这一通用原则，以及如何用 pipeline 名称与 `num_gpus` 做差异化帧数预算。缺点是逻辑目前只对 LTX2 两阶段多 GPU 生效，未来类似的多阶段管线（upsample/refine）可考虑提取更通用的规则；建议结合 PR body 的性能表理解冷启动开销的量级。

VAE 解码权重改为文件后备存储，降低主机内存占用

值得精读。该 PR 展示了一个低成本高收益的内存账本优化模式：将不可回收的匿名副本转为可丢弃的页缓存，并用"校验 + 回退 + kill switch"三重保障保证正确性与可控性。`_rehome_cast_weights_to_file` 的原子写、失败删除、二次采用逻辑可以直接作为其他组件缓存落盘的参考模板。建议关注后续是否有针对缓存失效（revision 变化）的补充校验。

加载序列化 Comfy INT8 DiT，复用 Kitchen 融合内核

值得精读。几个值得关注的设计决策：1) 不引入新 CLI flag，通过 `layer_markers` 自动检测与现有 config/method 复用完成双路径分派；2) 对 checkpoint 数据契约做严格前置校验，坏权重在模型构造前被拒绝而不是静默产出错误；3) 用基类字段 `checkpoint_uses_native_qkv_layout` 表达 QKV 布局契约，避免硬编码模型名；4) PR body 中通过 ConvRot 行范数不变性做数值溯源验证 QKV 布局的方法非常巧妙。建议结合 #36023 看同一契约在编码器侧的落地。

修复 Kimi-K3 视觉 DP 分片下 grid 索引错位崩溃

值得精读。修复代码本身很薄，但包含两个可迁移的经验：一是 DP 分片下“索引域混淆”（shard-local vs global）是极易复发的 bug 类别，改动涉及多模态数据契约时应对索引空间做显式命名与映射；二是测试改进思路——用不同的输入值（不同 grid）暴露被相同值掩盖的回归，比新增更多断言更有效。建议后续 vision-DP 相关改动沿用该测试风格。

修复 aiter 后端 spec 注意力两处内核路由，长上下文提速达 1.76×

值得精读。重点关注三点：1）通过内核 trace 签名（num_query_heads_16 / num_queries_per_kv_1）定位 GQA 摊还丢失的方法论；2）verify 与 draft_extend 统一走 unified_attention 的设计——同一个内核同时提供 GQA 打包与 split-KV，避免为 spec 阶段维护两套 kernel 路由；3）在 kernel 无法进 CI 的场景下，用“bit-identical + accept A/B + 端到端准确率”组合构建精度证据链。建议后续将 test/manual 的 flag 守卫测试迁入注册 CI，并考虑用可移植的契约测试（mock unified_attention 参数）覆盖路由分支。

提升 staging 处理函数导入至模块顶层，纯重构清理

值得作为"如何安全做导入重构"的 mini 范本快速浏览：PR 描述展示了先论证依赖方向、再区分"惰性是否有意为之"的判断框架。对 staging / disaggregation 维护者，建议关注两处保留的 load-bearing 惰性导入（NPU 钩子与 FINISH_ABORT），并考虑为 common.staging_handler 增加一条 AST 检查，防止未来引入模块级 sglang 导入导致循环依赖。

为 MiniMax-H3 新增消费级 GPU 调优指南与预算感知部署配置

值得精读。虽然是文档 PR，但其价值超出普通文档：一是「宿主才是约束」的分析框架可直接迁移到任何大权重 diffusion 模型的部署文档；二是 fair-cap 对比设计（同权重、同 allocator cap、诚实标注 ComfyUI 软限制差异）是跑分型文档的范本；三是 16 个 commit 展示了用实测修正错误结论的完整过程——先承认 ComfyUI 更快，再随运行时优化反超，最终全面改写；四是 unverified recipe 契约与校验脚本是文档工程化的好实践。阅读时注意区分 verified（实测）与 derived（推导）数字。