---
title: LayerNormFusionPass
description: "该融合规则将ReduceMean、SquaredDifference等小算子组合识别并融合为LayerNorm算子。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0010.html
sourcePath: /source/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr_30_0010.html
indexId: ca6e9d28ee7af8fc64bc32ea137f309e7abb9e49a6d2c59243cbe79eb423c8d278
---
# LayerNormFusionPass

#### 融合模式

该融合规则将ReduceMean、SquaredDifference等小算子组合识别并融合为LayerNorm算子。

- 场景一：
  融合为

- 场景二：

融合为


#### 使用约束

- 不支持动态shape场景。
- 4个输入参数的限制：

  - 入参InputTensor，数据格式支持ND、NCHW、NHWC，shape维度大于等于1，且shape的最后一维的值不能为1。
  - 入参Const_0，必须是1D，且shape的长度为1。
  - 入参Const_1，必须是1D，且shape的长度等于InputTensor shape的最后一维长度。
  - 入参Const_2，必须是1D，且shape的长度等于InputTensor shape的最后一维长度。
- 输入ReduceMean的限制：

  - 两个ReduceMean的axes参数必须一致，且axes参数与InputTensor维度的最后一维保持一致。
  - 两个ReduceMean的keep_dims参数都必须是true。
- 输入Sub的限制：

  - 第一个参数必须是InputTensor。
  - 第二个参数是ReduceMean_0的结果，不能调换位置。
- 数据类型限制：
  数据类型仅支持FLOAT32、FLOAT16。


#### 支持的型号

Atlas A2 训练系列产品 / Atlas A2 推理系列产品