sgl-project/sglang

修复NPU MoE权重因维度不对齐导致的FRACTAL_NZ格式崩溃，优雅回退到ND格式。

对于NPU开发者和MoE模型用户，此PR值得精读，特别是_is_nz_aligned函数的对齐规则实现和npu_format_cast中的条件回退逻辑，这体现了硬件优化与兼容性的设计权衡。

修复NemotronH混合模型分段CUDA图捕获问题，提升推理性能约17%。

建议关心CUDA图优化、混合模型支持或向后兼容性设计的工程师精读此PR。虽然变更简单（仅2行代码），但展示了在处理多样化模型架构时的设计权衡，值得学习如何维护系统兼容性并优化性能。

为 GLM 模型的 MoE 门控投影添加 FP32 强制转换，并缓存权重以优化性能。

该 PR 值得精读，尤其是关注其如何平衡数值精度要求与性能优化。关键设计决策包括： 1. 使用 `register_buffer` 和惰性初始化实现权重缓存，避免每次前向传播的转换开销。 2. 通过 FIXME 注释明确标识了已知风险（缓存失效），为后续维护提供上下文。 建议关注 `_weight_fp32` 缓存的生命周期管理，以及未来如何扩展以支持动态权重更新。

添加Ring SP性能基准文档页面，提升扩散模型文档可发现性。

建议扩散模型用户或对Ring SP性能感兴趣的开发者阅读此文档，以获取实际性能数据参考；对于核心代码开发者，无需深入阅读，因为不涉及技术实现变更。关注点可放在基准数据的解读和文档结构优化上。

新增NPU Ascend Flash Attention后端，支持ring attention。

建议技术管理者关注此PR，以了解如何为不同平台添加定制attention backend的架构模式。工程师可精读`ascend_fa.py`中的实现，学习如何集成硬件专用操作并遵循抽象基类设计，以及通过review讨论了解代码优化点。

为Qwen-Image VAE解码添加并行支持，降低NPU高分辨率图像生成的峰值内存。

该PR值得精读，特别是对于关注扩散模型推理优化和分布式计算的工程师。建议重点关注： 1. **设计决策**：理解“在子类中特化实现”与“在基类中提供可配置策略”这两种设计路径的权衡，以及最终向后者演进的思路。 2. **内存-延迟权衡**：仔细阅读基准测试数据，明确并行解码为解决OOM所付出的时间代价，这在实际部署中是需要权衡的关键指标。 3. **代码重构技巧**：学习如何通过统一方法签名（移除`return_dict`）来简化调用链、提升代码一致性。 4. **关联变更**：注意`qwen_image.py`中与平台检测相关的修改，虽然与核心功能无关，但反映了项目中对多平台（CUDA/HIP）支持代码的抽象需求。

优化GLM-5在NPU的推理性能，通过fused kernels和旋转位置嵌入缓存。

建议工程团队精读此PR，重点关注fused kernels的实现细节（如条件分支逻辑）和缓存机制的设计权衡，这些决策对NPU性能优化有借鉴意义。同时，注意review中未解决的维护性问题。

优化 DeepSeek-R1-W4AFP8 模型的 DeepEP 低延迟调度，采用 FP8 通信以降低带宽并提升推理性能。

建议技术管理者和工程师精读此 PR，重点关注新增的 Triton 核函数设计（在 ep_moe/kernels.py 中）及其硬编码权衡、环境变量兼容性处理，以及 review 中提到的未解决疑虑。对于量化优化、硬件特定性能调优和 MOE 调度设计有参考价值。