sgl-project/sglang

修复确定性推理下 GDN prefill 后端选择，强制 Triton

该 PR 值得精读，因为它展示了如何在性能优化与确定性保证之间做权衡，并提供了清晰的错误处理方式。建议关注 `gdn_backend.py` 中的策略函数和新增的校验函数。

支持 MiniMax-H3 pruned 与 Comfy FP8 safetensors 加载

值得精读。重点学习三处设计：1) `comfy_fp8.py` 中 FP8 存储与全精度计算分离的逐层分派，平衡显存与数值语义；2) `minimax_h3_weights.py` 在模型构建前完成全部校验，把误导性缺权重错误提前转化为明确格式错误；3) `transformer_load_utils.py` 的 HF 文件引用解析，用正则与启发式判断处理三种输入形态。

按 cgroup 上限规划 pinned 主机内存预算

值得精读。该 PR 展示了"从容器真实限制出发做资源预算"的设计思路，`HostPinBudget` 的热度排序（字节 × 步数）比简单的 DiT 优先更符合传输量实际，且把回退代价量化进 docstring 和日志，是资源治理的好范例。关注 `host_memory_budget.py` 的 cgroup 解析与 `layerwise_offload.py` 的排序注入点。

修复 compressed-tensors KV cache scale 加载缺失问题

值得精读。该 PR 修复了一个静默的正确性问题，展示了如何在不破坏兼容性的前提下补全量化方案分支：支持时加载 scale，不支持时降级并告警，而非拒绝启动；通过 duck-typed 属性让 auto 模式正确解析 dtype。对理解 SGLang 量化加载架构（QuantizationConfig → QuantizeMethodBase 分派）很有帮助。

新增权重读取后端协议，重构 checkpoint 加载选择逻辑

值得精读。它示范了如何用协议 + 能力标记取代布尔参数：能力放在声明者身上而非调用点，选择逻辑集中且 fail-fast。PR Notes 中的带宽实测（pinned 匿名 13.09 GB/s、pageable 匿名 8.84 GB/s、cache-resident 文件映射 8.5 GB/s；per-tensor 拷贝 13.41 GB/s vs 合并拷贝 13.39 GB/s）表明，未来把 offload 的 host 缓冲迁移到文件映射源是可行且几乎无损的——`retains_file_mapping` 就是为这个 follow-up 声明的地基。建议关注后续 host copy 与 offload 相关 PR。

MiniMax-H3 Ref2VA 音频一致性 CI 覆盖与显存峰值守卫

值得精读。重点看两处设计：一是 load/runtime 显存峰值分离的思路与 replica all-reduce(MAX) 聚合的契约（gpu_worker.py + test_performance_metrics.py 对照阅读），这是 diffusion CI 显存门禁的通用范式；二是音频一致性度量组合（谱相似度+波形相关+RMS+时长），可直接复用于其他 T2A 模型。若团队在维护 diffusion 模型，建议关注 h100.json 基线标定方式与缺基线时自动 dump 的降级策略。

放宽 MiniMax-H3 短边限制，非 768 仅告警不拒绝

值得精读。该 PR 展示了“默认值不等于硬限制”的产品化取舍，以及用 `lru_cache` 实现按值去重告警的轻量做法，配套测试覆盖了边界与告警行为。建议阅读时重点关注 `request_validation.py` 与 `resolved_plan.py` 两处告警调用是否一致，以及如何为“未验证配置”设计既透明又不打扰用户的反馈机制。

AMD 夜间 CI 同时跑 ROCm 7.2.4 与 7.2.0 镜像

值得精读，尤其适合 CI 工程师参考 matrix 参数化模式：如何用 fromJson 控制矩阵规模、如何通过 workflow_call 默认值避免调用方意外扩量，以及如何通过显式传参把版本决策上移。