sgl-project/sglang

在 sglang 导入时尽早应用 transformers monkey-patches，彻底修复 CI 中因 Hugging Face API 调用导致的 429 速率限制问题。

推荐所有维护者和涉及 Hugging Face 集成的开发者精读此 PR，重点关注 `apply_all()` 中的设计权衡（急切 vs 惰性补丁、前端兼容性处理）和导入重构模式（文件重命名以避免模块膨胀），这些决策在管理第三方依赖升级和跨模块一致性方面具有参考价值。

合并 /get_load 到 /v1/loads，统一负载报告路径并弃用旧端点。

该 PR 值得精读，尤其关注数据结构的统一设计和向下兼容处理。值得注意的设计决策包括：在 `GetLoadsReqOutput` 中新增 `num_total_tokens` 字段以区分已使用和总令牌数，以及通过垫片保留旧 API 的平滑迁移路径。

移除已弃用的双稀疏注意力优化特性，清理代码库和相关文档。

建议开发者浏览此 PR 以学习如何安全移除大型特性，重点关注跨文件引用清理和文档更新模式；对于涉及类似弃用代码清理的项目，可参考此次实现步骤。

降低 Qwen2.5-VL 模型分段 CUDA 图测试的 GSM8K 精度阈值，缓解 CI 偶发失败。

该 PR 变更简单直接，主要价值在于其背后的数据分析方法。建议工程师快速浏览以了解测试阈值调整的决策过程，但无需深入代码细节。对于负责 CI 稳定性和测试策略的团队成员，可关注其如何利用历史数据量化方差并设定安全边际。

在 AMD ROCm 平台上启用 DFLASH 推测解码，支持 Triton 注意力后端。

该 PR 值得精读，特别是 `dflash_worker.py` 中的后端选择逻辑和 `triton_backend.py` 中的掩码防护设计，展示了如何优雅地处理平台差异和边缘情况。关注 ROCm 检测的实现方式及其对默认行为的影响。

修复 HiCache 文件后端组件键生成中 PoolName 枚举序列化问题，确保文件名规范。

该 PR 值得快速浏览，重点关注 `PoolName` 枚举的 `__str__` 方法实现，这是修复序列化问题的核心设计决策。对于涉及 HiCache 或类似枚举键生成的开发，此变更展示了如何确保枚举值在字符串上下文中的规范表示。

在 AMD ROCm 平台上跳过 ModelOpt FP8 和 NVFP4 量化测试，修复 CI 失败。

该 PR 变更简单直接，适合快速了解如何通过平台检测调整测试覆盖。值得关注的设计决策是选择在测试配置层而非运行时处理硬件不兼容问题，这降低了核心代码复杂度，但可能牺牲测试完整性。建议结合 review 中的讨论，思考未来如何更精细地管理跨平台测试策略。

预计算 GemmaRMSNorm 的 gemma_weight，避免每次前向重复加法开销。

该 PR 值得精读，尤其是 `_weight_loader` 的实现和缓冲区管理部分，展示了在 PyTorch 模块中如何安全地预计算并缓存张量，以及如何处理权重加载时的同步问题。关注设计决策：使用 `register_buffer` 缓存非持久化张量，并通过 `weight_loader` 回调确保缓存值与参数同步。