设置A矩阵的位置,数据格式,数据类型,是否转置等信息,这些信息需要和kernel侧的设置保持一致。
int32_t SetAType(TPosition pos, CubeFormat type, DataType dataType, bool isTrans = false)
参数名 |
输入/输出 |
描述 |
---|---|---|
pos |
输入 |
A矩阵所在的buffer位置,可设置为:TPosition::GM, TPosition::VECOUT, TPosition::TSCM。 |
type |
输入 |
A矩阵的数据格式,可设置为:CubeFormat::ND,CubeFormat::NZ。 |
dataType |
输入 |
A矩阵的数据类型,可设置为:DataType::DT_FLOAT/DataType::DT_FLOAT16/DataType::DT_BFLOAT16/DataType::DT_INT8/DataType::DT_INT4。 |
isTrans |
输入 |
A矩阵是否转置。 参数取值: true:A矩阵转置; false:A矩阵不转置。 Atlas推理系列产品AI Core,A矩阵为DataType::DT_INT8数据类型时不支持转置,即不支持该参数设置为true。 |
-1表示设置失败; 0表示设置成功。
无