sgl-project/sglang

为自定义 speculative 算法提供扩展点

值得精读的设计模式改动。对于计划开发或集成自定义 speculative 算法的工程师，了解这两个扩展点是必须的。合并审批干净，CI 通过即可合入。建议后续为扩展点补充单元测试，确保新算法集成时不引入回归。

本地构建结构标签修复并行工具调用

值得精读。PR 展示了如何通过 override detector 方法在本地构建结构化标签来绕过上游 bug，设计清晰、docstring 详尽。团队应关注 xgrammar 上游修复进度，以便未来移除 override。

拆分 DSAMTP 测试为 4 文件，避免 CI 超时

如果你关注 CI 流水线优化或测试架构设计，这个 PR 值得精读。特别是通过多重继承（Mixin）组合测试逻辑的模式，在 SGLang 测试框架中已有大量使用，该 PR 是良好的实践案例。对于仅使用 SGLang 推理的用户，可快速浏览了解变更即可。

重跑测试从 YAML 动态解析 runner 标签

值得所有涉及 CI 维护的开发者精读，学习如何通过 YAML 配置驱动 workflow、移除硬编码表。重点关注 `_extract_runner_config` 的实现和 `rerun-test.yml` 的拆分模式。

重用前层MoE输出减峰值内存539MB

建议团队精读此 PR，尤其是 ContextVar 传递临时缓冲区的设计模式和显式清除注意力输入以缩短 tensor 生命周期的实践。对于 hot path 的性能优化建议（预计算标志、内联导入上提）需在后续迭代中采纳。

为 Ring-2.6-1T 新增 H200 x8 部署文档与基准测试

PR 内容清晰简洁，改动合规；适合合并。对于关注 H200 部署的用户有参考价值，其余开发者可快速浏览。

引入 CudaDeviceMixin 与 CudaSRTPlatform 平台抽象层

值得精读。该 PR 是 SGLang 平台抽象层的关键基础设施，设计模式（Mixin + 自动发现、ROCm 继承 CUDA）对多硬件支持有借鉴意义。关注设备操作接口定义与回退逻辑，为后续 OOT 插件扩展提供参考。

MLA chunked-prefill K/V融合cat+FP8量化单核，最高10x加速

建议精读。该PR不仅带来了显著的性能提升（5.5×-10×），还在以下方面具有工程借鉴价值： - 通过Triton内核融合消除中间全局内存数据，是GPU性能优化的典型手法。 - 混合调度器针对不同batch size选择网格维度和配置，体现了对GPU计算/内存行为分区的深刻理解。 - 通过duck-typing挂钩集成，无需修改现有注意力后端，保持了接口清晰和回退安全。 - 完整的性能调优过程和Benchmark表格可作为同类优化的参考模板。