SetAType

功能说明

设置A矩阵的位置,数据格式,数据类型,是否转置等信息,这些信息需要和kernel侧的设置保持一致。

函数原型

int32_t SetAType(TPosition pos, CubeFormat type, DataType dataType, bool isTrans = false)

参数说明

表1 参数说明

参数名

输入/输出

描述

pos

输入

A矩阵所在的buffer位置,可设置为:TPosition::GM, TPosition::VECOUT, TPosition::TSCM。

type

输入

A矩阵的数据格式,可设置为:CubeFormat::ND,CubeFormat::NZ。

dataType

输入

A矩阵的数据类型,可设置为:DataType::DT_FLOAT/DataType::DT_FLOAT16/DataType::DT_BFLOAT16/DataType::DT_INT8/DataType::DT_INT4。

isTrans

输入

A矩阵是否转置。

参数取值:

true:A矩阵转置;

false:A矩阵不转置。

Atlas推理系列产品AI Core,A矩阵为DataType::DT_INT8数据类型时不支持转置,即不支持该参数设置为true。

返回值

-1表示设置失败; 0表示设置成功。

注意事项