AddRmsNormDynamicQuantFusionPass
融合模式
该融合将符合图融合pattern的AddRmsNorm算子和DynamicQuant算子融合成融合算子AddRmsNormDynamicQuant,其中AddRmsNorm算子的输出作为DynamicQuant算子的第一个输入。
使用约束
- AddRmsNorm算子的输入X1和X2的shape/dtype要一致。
- format只支持ND。
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
父主题: 图融合规则说明