执行摘要

• 一句话：修复NPU MoE权重因维度不对齐导致的FRACTAL_NZ格式崩溃，优雅回退到ND格式。
• 推荐动作：对于NPU开发者和MoE模型用户，此PR值得精读，特别是_is_nz_aligned函数的对齐规则实现和npu_format_cast中的条件回退逻辑，这体现了硬件优化与兼容性的设计权衡。

功能与动机

PR body中引用Issue #21201指出，PR #15904引入的早期权重转置+FRACTAL_NZ转换优化在NPU上对MoE权重有对齐要求（如BF16/FP16需K和N整除16，INT8需K整除16且N整除32），但GPT-OSS-120B模型的intermediate_size_per_partition=360（360 % 16 != 0）不满足对齐，导致硬崩溃，因此需要修复以优雅回退。

实现拆解

在python/sglang/srt/hardware_backend/npu/utils.py中添加_is_nz_aligned函数，根据张量数据类型（如BF16/FP16、INT8等）检查最后两个维度的对齐规则；修改npu_format_cast函数，在尝试ACL_FORMAT_FRACTAL_NZ格式时调用_is_nz_aligned，如果检查失败则记录警告并返回原张量（即回退到ND格式）。在python/sglang/srt/layers/quantization/unquant.py中简化对npu_format_cast的调用，移除冗余参数以使用默认格式。

关键文件：

• python/sglang/srt/hardware_backend/npu/utils.py（模块 NPU硬件后端）: 添加了_is_nz_aligned对齐检查函数并修改npu_format_cast，是核心逻辑所在，影响所有NPU权重格式转换和性能优化。
• python/sglang/srt/layers/quantization/unquant.py（模块 量化层）: 简化了MoE权重处理中对npu_format_cast的调用，移除参数以使用默认格式，影响量化层的权重转换。

关键符号：_is_nz_aligned, npu_format_cast

评论区精华

review中，OrangeRedeng建议将对齐检查逻辑从unquant.py移到npu_format_cast函数中以提高复用性，作者采纳并修改代码；gemini-code-assist[bot]建议改进警告消息使其更通用（包含数据类型），作者调整了日志消息；OrangeRedeng还建议使用logger.warning_once避免控制台垃圾输出，作者修改为warning_once。讨论聚焦于代码设计优化和日志改进。

• 对齐检查逻辑的位置优化 (design): 作者采纳建议，修改utils.py中的npu_format_cast函数以包含检查逻辑，提高代码复用性。
• 警告消息的通用性改进 (documentation): 作者在npu_format_cast中添加了更通用的警告消息，包含张量形状和数据类型。
• 日志方式优化以避免垃圾信息 (style): 作者修改为logger.warning_once，避免日志垃圾，提升可维护性。

风险与影响

• 风险：风险包括：对齐检查函数_is_nz_aligned可能遗漏边缘数据类型（如INT4/FP4，作者提到理论风险）；回退到ND格式可能导致性能下降，特别是对于未对齐的大模型权重；缺少单元测试覆盖_is_nz_aligned和npu_format_cast的修改，可能引入回归错误。具体到utils.py文件，检查逻辑需要确保对各种数据类型和形状的正确处理。
• 影响：对用户影响：修复了特定模型（如GPT-OSS-120B）在NPU上的崩溃问题，提升了系统稳定性；但未对齐的权重将回退到ND格式，可能降低推理性能。对系统影响：增强了NPU MoE权重的鲁棒性，但牺牲了部分性能优化。影响范围局限于使用NPU和MoE权重的场景，如量化模型处理。
• 风险标记：核心路径变更, 缺少测试覆盖, 性能回退可能

关联脉络

• PR #21255 [NPU] fix eagle3 accept rate: 同为NPU平台bugfix，涉及性能优化和问题修复，显示NPU相关代码的持续改进。
• PR #21383 [diffusion] [NPU] support ring attention on NPU with FA: 涉及NPU功能扩展和优化，与本PR共同体现NPU支持的演进趋势。