sgl-project/sglang

批量化映射查找消除 GPU-CPU 同步，unified-memory 吞吐最高提升 128%

值得精读。虽然改动只有 55 行，但精准命中了「逐行 `.item()` 同步」这一典型性能陷阱，`_commit_move_batch` 中「一次 gather + GPU 异步断言」的组合是可在其它同步敏感路径复用的优化范式；回归测试用 `_RejectScalarIndexTensor` 代理把「不得逐行读取映射」变成测试期即失败的硬约束，也是防御性测试的好例子。建议结合 #33060 的 Kimi-K3/GB200 数据一起阅读。

原生加载剪枝 MiniMax H3 检查点，LoRA 层新增常量偏移机制

值得精读。1) `MiniMaxH3DiTModel.prepare_lora_adapter` 展示了如何在不改变运行时的情况下，通过仿射基投影兼容剪枝权重与外部 LoRA，数学变换与错误防御（宽度统一校验、零基拒绝）都值得借鉴。2) LoRA 层的 `lora_output_offset` 是通用扩展，merge / FSDP / commit-as-base 三种边界条件的处理可作为工程样板。3) 建议结合 `test_lora_commit_as_base.py` 的用例理解动态与合并模式的偏移缩放语义。

支持自动加载 Quanto INT8 序列化编码器，量化经元数据自发现

值得精读，尤其 `inspect_quanto_int8_checkpoint` 的“自描述元数据 + 前缀集合一致性 + `selected` 消费校验”模式，以及 text_encoder_loader 中 SRT/diffusion 双线性分派设计；对后续新增序列化量化格式（如其他 weight-only 方案）有直接借鉴价值。阅读时建议先看 `base_config.supports_srt_linear_layers` 如何做闸门，再看 loader 的查找顺序。

新增按组件粒度显式量化覆盖，支持 DiT 与原生编码器在线量化

值得精读。这是一个设计干净的配置扩展，核心可借鉴点有三：一是 `supports_online_quantization_override` 能力位模式，让基类统一校验而子类声明能力；二是"显式拒绝而非静默回退"的失败策略，贯穿 server_args 归一化、基类门控和 encoder 量化配置三处；三是自描述量化与显式覆盖的职责分离。建议阅读时重点关注 `component_loader.py` 的门控位置与 `text_encoder_loader.py` 的冲突校验顺序。

为 Intel XPU 补齐 prefill-only 模型测试覆盖

值得精读。推荐关注三点：一是 cross-encoder 数值敏感性的技术权衡——为何 bf16 下融合内核的归约顺序差异会导致超出 1e-2 容差，这是选择 attention backend 与 dtype 的关键依据；二是 decoder-only rerank 的分数提取方法（yes/no token logprob 转概率比）；三是 classification 测试中"概率比较优于原始 logits 比较"的稳定性设计，以及 review 中显存双占问题的修正过程。

AMD CI 作业名展示真实 ROCm 版本，联动更新监控与失败报告

值得精读，尤其是对维护复杂 GitHub Actions 矩阵 CI 的团队。本 PR 包含三个可借鉴的设计决策：一是展示名与内部 id 解耦（id 保留 `-rocm720` 后缀稳定 needs 依赖，展示名携带可读的 flavor 与 runner 坐标）；二是规避 `wait-for-jobs` 的 `job.name` 前缀匹配陷阱并留下清晰的 commit 解释；三是展示名变更时的历史数据策略——"宁可丢弃、不可误映射"，用 `_filter_legacy_amd_job_rows` 独立于共享分析器做局部过滤，避免旧失败顶替新名字显示。搭配的单元测试虽然只有两个用例，但精准覆盖了过滤函数的边界行为。

限制滑动窗口 KV 循环下界，SWA prefill 提速 86.6%

值得精读。该 PR 是 Triton 内核循环界优化的教科书式案例：用 mask 条件反推 tile 下界、利用 constexpr 折叠保证非目标分支零指令差异，并以位级一致性、正反 A/B 顺序、编译产物对比和跨厂商复现构建了完整验证链。对 SGLang 内核维护者，建议把这种验证方法论沉淀为 SWA 内核修改的常规流程；后续若有人改动 SKIP_TILE 或循环边界，应先跑 PR 中记录的 91 组覆盖作为回归基线。