下载
EN
注册

AddLayerNormDynamicQuantFusionPass

融合模式

将满足如下Pattern的结构融合成AddLayerNormQuant算子。

使用约束

  • AddLayerNorm的0号输出只有1个或2个,且给了Mul节点或DynamicQuant节点。
  • 当AddLayerNorm的0号输出有2个时,2个下游节点必须同时为Mul或同时为DynamicQuant。
  • 当AddLayerNorm的0号输出下游节点为Mul时,Mul下游有且仅有1个DynamicQuant节点,且该DynamicQuant节点不能有smooth这个可选输入。

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品