#29027 [NPU] Adding a fast layernorm for diffusion models and fix BSA
原始 PR · 作者 Svoloch2940194 · 合并时间 2026-08-05 19:06
NPU 扩散模型接入 fast layernorm 并修复 BSA
建议 NPU 平台维护者精读 layernorm.py 的改造:CustomOp 注册、__init__ 内动态探测依赖、forward_* 设备拆分是清晰的适配范式,值得作为后续 NPU kernel 接入的模板。同时注意 BSA 算子切换需与 sgl-kernel-npu 版本对齐,并建议补充一个 forward_npu 与 forward_native 的一致性单测及 fallback 路径测试。
参与讨论