性能优化
重要性 9.00
洞察度 7.00
Gemma3n 稀疏 GELU 接入 Triton 融合内核
值得精读，尤其是三处设计决策：(1) kernel 中 dtype roundtrip 的必要性论证——用 ablation 数据（14/24 FP16、21/24 BF16 超差与数百至数千处 mask 不一致）证明“为对齐 native 舍入而牺牲部分算力”是正确取舍；(2) `@triton_op` + `wrap_triton` 让 `torch.compile` 保持对 kernel launch 的可见性，并用 standalone AOT 回归守护上下游依赖不被裁掉，这是 IR 算子接 Triton 的可复用范式；(3) warp 启发式与 spill 的权衡，以及在缺乏全局最优解时“保留现状 + 记录 TODO”的工程判断。后续建议：补一轮 H100/L40S 等架构的 warp/spill 验证再考虑是否扩大默认启用范围；与 #41903 收敛同一 op 的 IR 注册避免重复；把 `d=32768` 的 spill TODO 转成独立 issue 跟踪。