昇腾社区首页
中文
注册

QuantizeAddLayerNormPass

融合模式

场景1:将算子AddLayerNorm的输出y所连接的两个Quantize算子或两个AscendQuantV2算子融合掉,融合成新算子DuaQuantizeAddLayerNorm。

场景2:将算子AddLayerNorm的输出y所连接的1个AscendQuant或AscendQuantV2算子节点融合掉,融合成新算子QuantizeAddLayerNorm:

使用约束

融合为DuaQuantizeAddLayerNorm算子的场景,需要上游AddLayerNorm算子的x1,x2输入的数据类型为bfloat16。

支持的型号

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas A3 训练系列产品/Atlas A3 推理系列产品