LayerNormalization
功能
层归一化函数。对指定层进行归一化计算。

输入
- x:输入Tensor,数据类型支持float16。
- scale:输入Tensor,数据类型支持float16的,指定尺度因子。
- B(可选):输入Tensor,数据类型支持float16,指定偏移量。
属性
- axis:数据类型为int,默认值为-1,第一个开始标准化的维度。
- epsilon:数据类型为float,默认值为1e-05,指定一个小值与var相加,以避免除以0。
- stash_type:数据类型为int,默认值为1,指定Mean和InvStdDev的类型。
输出
- y:标准化之后的Tensor,数据类型为float16或float。
- mean:可选输出,均值。
- InvStdDev:可选输出,标准差的倒数。