sgl-project/sglang

修复动态分块profiling在GLM-5模型上的崩溃

建议合并，该修复精准定位了profiling路径中缺失的标志初始化问题，改动极小且正确性明确。

为 Hunyuan 3 Preview 添加部署 cookbook 和交互式生成器。

值得阅读的是交互式生成器的硬件配置逻辑（`generateCommand` 函数），它体现了 Blackwell 架构的特殊 attention backend 选择。其他部分为标准 cookbook 格式，适合作为文档编写参考。

用 bpreshuffle GEMM 替换 ABScale GEMM，提升 AMD FP8 块缩放性能。

本 PR 值得精读。其核心设计模式“一次性预处理（preshuffle）换取每次推理加速”在算子优化中具有代表性。AMD 平台性能验证充分，但需关注精度回归是否在可接受范围内。建议关注未来 Triton 路径扩展后，bpreshuffle 路径的覆盖变化。

为AMD CI跳过MLA FP8测试中的确定性推理标志，修复CI失败。

该PR值得快速浏览，以了解如何优雅处理跨平台CI测试中的后端差异。重点关注条件逻辑的设计，它展示了在存在上游bug时如何临时绕过问题而不破坏现有功能。对于涉及多后端支持的团队，这是一个实用的模式。

为NPU CI配置Rust镜像加速器安装

该 PR 为基础设施优化，逻辑简单明确，建议合并。值得注意的设计点是使用成熟的第三方镜像（ByteDance rsproxy.cn）而非自建代理，降低了维护成本。

修复 DeepSeek 架构模型在 sm100 上错误默认 FP8 量化的问题，通过检查 safetensors 头文件正确检测权重类型。

建议精读此 PR，重点关注 `has_fp8_weights_in_checkpoint` 函数的设计决策（如使用 safetensors 头文件检测而非架构名称）以及 review 中指出的未解决问题。对于维护类似功能的工程师，此 PR 展示了如何通过元数据检测来避免硬编码假设，但需注意实现中的潜在缺陷。

为 gRPC 模式添加 HTTP sidecar 端点和 FlushCache RPC

建议关注以下设计决策： - **profiling 端点放在 sidecar 而非 gRPC**：PD 模式需要 per-worker 定向，不应通过 router fan-out。 - **FlushCache 作为 gRPC RPC**：需要 fan-out 到所有 worker，因此通过 router 调度是合理的选择。 - **移除重复端点**：review 中及时删除了 sidecar 中多余的 /server_info，保持了单一实现。 这些决策体现了对异构传输模式下功能划分的清晰思考，值得在类似场景复用。

修复CFG-parallel模式下warmup分辨率预热导致的30分钟静默挂起。

建议精读scheduler.py和input_validation.py的变更，关注设计决策如占位符常量的使用和验证逻辑的添加，这些体现了防御性编程和代码可维护性的权衡。