sgl-project/sglang

明确CUDA cache清理时机，移除stage边界隐式清理

推荐阅读，尤其是以下设计决策： - 将隐式副作用（debug日志中的`empty_cache`）显式化，分离观测和清理职责，是良好的工程实践。 - 只在`memory_intensive`组件释放且满足特定条件（CUDA存储释放或LayerwiseOffloadStrategy）时清理，避免频繁`empty_cache`。 - 性能基线的同步更新策略以及为有波动的stage设置动态容差的方法值得借鉴。

XPU 推理 DeepSeek V3.2

可快速合并，变更简洁直接。建议未来添加 XPU 特定测试，并在 `forward_xpu` 中补充明确的错误消息（如 reviewer 所提）。

修复 UnifiedRadixCache 测试的稳定性问题

可直接合并，属于低风险 CI 稳定性修复。

修复 SWAKVPool 模型确定性推理的 CUDA 非法内存访问

该 PR 值得精读。它展示了如何诊断由索引空间不一致导致的内存越界问题，并利用缓存设计（`swa_loc`）优化性能。对于涉及自定义 KV 池（如 SWAKVPool）及统一注意力内核的开发者，此修复具有重要参考价值。

暴露 SWA 和 Mamba 混合缓存容量指标

该 PR 属于小范围增强，逻辑清晰，变更量小，适合快速阅读以了解 SGLang 缓存指标扩展模式。

优化 Helios 融合归一化调制，消除冗余 FP32 转换

该 PR 是一次典型的 kernel fusion 性能优化，设计简洁且有效。建议：1）确认 `LayerNorm` 构造时显式传入 `bias=True` 以避免未来歧义；2）考虑添加数值一致性测试（如 PSNR/SSIM）以量化验证图像质量无退化。整体上值得合并。

为 HunyuanVideo 添加 ModelOpt FP8 量化支持

适合有意在 SGLang 中集成新量化模型的工程师阅读，重点关注 `build_modelopt_fp8_transformer.py` 中的命名映射机制和 `ReplicatedLinear` 的泛化设计。

修复 EAGLE SpecV2 + TBO 下 seq_lens_cpu 空指针问题

值得快速合入，修复明确，影响范围小。可作为 AMD 平台 SpecV2 兼容性修复的参考模式。