昇腾社区首页
中文
注册

MatmulReduceSumUbFusion

融合模式

该融合将满足如下Pattern关系的子图中BatchMatMul和ReduceSum进行UB融合。

使用约束

  • BatchMatMul的输入都有且都不为1,输出为1维。
  • ReduceSum的输出为float32类型,keep_dim为false。
  • BatchMatMul类型支持BatchMatMul和BatchMatMulV2。
  • MatMul输入数据shape不超过三维,且三维时输入数据的第0维不能是1且不能超过uint16_t的最大值。

支持的型号

Atlas 200I/500 A2 推理产品

Atlas 推理系列产品

Atlas 训练系列产品