昇腾社区首页
中文
注册

AddRmsNormDynamicQuantFusionPass

融合模式

该融合将符合图融合pattern的AddRmsNorm算子和DynamicQuant算子融合成融合算子AddRmsNormDynamicQuant,其中AddRmsNorm算子的输出作为DynamicQuant算子的第一个输入。

使用约束

  • AddRmsNorm算子的输入X1和X2的shape/dtype要一致。
  • format只支持ND。

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品