sgl-project/sglang

为AMD HIP平台优化NSA索引器，通过RMSNorm传递bf16张量消除FP8反量化开销。

该PR值得精读，特别是对于关注硬件特定性能优化和量化推理的工程师。重点关注： 1. 如何通过修改上游算子输出（output_unquantized_inp1）传递中间张量，避免冗余计算的设计决策。 2. 条件守卫的对齐和类型安全处理，反映了在多平台支持下的代码维护最佳实践。 3. 性能基准测试方法，包括准确性和速度测试的详细报告。

添加Whisper转录测试文件，覆盖OpenAI兼容音频端点。

该PR变更简单，不值得深入精读，除非关注测试策略或Whisper集成；建议测试工程师或相关开发者了解新增测试以维护测试套件。

为CPU路径添加路由缩放因子支持，扩展fp32数据类型，并优化MoE topk融合。

该PR值得精读，特别是sgl-kernel/csrc/cpu/topk.cpp中的内核实现变更，展示了如何优化CPU路径的MoE topk融合以支持新功能。关注宏重构的设计决策，以及测试用例的扩展方法，可作为类似内核优化的参考。

修复Intel GPU后端因PR #20796导致的flash_attn导入回归问题。

对于大多数工程师，此PR无需精读，只需了解其修复了导入回归问题。对于负责Intel GPU后端或内核模块的开发者，值得关注sgl_kernel.flash_attn作为flash_attn函数的新统一来源，这可能反映了项目在模块组织上的演进方向。

更新HiSparse用户指南，调整配置参数并新增基准测试示例。

该PR为纯文档更新，无需深入代码审查。建议文档维护者关注配置参数变更是否与代码实现一致，并考虑在相关代码注释中同步更新。对于使用HiSparse的用户，值得参考更新后的部署示例。

为 DeepSeek-R1-0528-w4a8 模型实现 FP8 通信，减少延迟并提升吞吐量约 10%。

该 PR 值得精读，以了解如何通过 FP8 通信优化 MoE 模型性能，特别是在 Triton 内核实现和量化策略方面的设计决策。同时，注意 review 中讨论的兼容性问题，可参考 PR #22822 的修复方案，了解如何平衡性能与向后兼容性。

修复推测解码中Mamba跟踪计算的边界错误，确保前缀缓存正确更新。

该PR值得精读，尽管变更简单，但揭示了推测解码中奖励令牌处理的微妙边界条件。关注点：1. `accept_length_per_req_cpu`的构造约定及其在各类计算中的一致性。2. Mamba跟踪间隔与前缀缓存的交互设计。建议结合推测解码和Mamba相关文档理解上下文。

为Kimi-K2.5模型添加LoRA支持，并优化量化MoE兼容性。

建议技术管理者和工程师精读此PR，关注LoRA与量化MoE集成的设计决策，如get_triton_quant_info的重构和运行器后端选择逻辑，这些对于理解框架扩展机制有价值。同时，注意review中未解决的风险点，可能在后续开发中需要额外测试或修复。