---
title: LayerNormSpecialFourGradsTrainingFusionPass
description: "和LayerNormSpecialTrainingFusionPass类似，该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子，提高计算性能。有差异的是该融合pass会匹配四个反向的pattern，并将其中两个scope名称和正向LayerNorm一致的反向LayerNorm结构融合成LayerNormGrad算子。如下图所示："
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0097.html
sourcePath: /source/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr_30_0097.html
indexId: daf3e8ec02a734bbb1b9ffe1a423a3f23e468b1fac6c865cb23ad10dfe83fca478
---
# LayerNormSpecialFourGradsTrainingFusionPass

#### 融合模式

和LayerNormSpecialTrainingFusionPass类似，该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子，提高计算性能。有差异的是该融合pass会匹配四个反向的pattern，并将其中两个scope名称和正向LayerNorm一致的反向LayerNorm结构融合成LayerNormGrad算子。如下图所示：


#### 使用约束

无