AddLayerNormDynamicQuantFusionPass

融合模式

将AddLayerNorm和其下游的1个或2个DynamicQuant融合成AddLayerNormQuant算子，如下图所示：

当DynamicQuant的smooth这个可选输入存在时，其会被放在AddLayerNormQuant对应的scale这个输入的位置。

DynamicQuant的smooth操作也可以使用Mul表达，这种场景下，DynamicQuant本身的smooth可选输入需要为空：

使用约束

• AddLayerNorm的0号输出只有1个或2个，且给了Mul节点或DynamicQuant节点。
• 当AddLayerNorm的0号输出有2个时，2个下游节点必须同时为Mul或同时为DynamicQuant。
• 当AddLayerNorm的0号输出下游节点为Mul时，Mul下游有且仅有1个DynamicQuant节点，且该DynamicQuant节点不能有smooth这个可选输入。

支持的型号

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件