SetHF32

功能说明

设置是否使能HF32(矩阵乘计算时可采用的数据类型)模式。使能后,在矩阵乘计算时,float32数据类型会转换为hf32数据类型,可提升计算性能,但同时也会带来精度损失。

函数原型

1
__aicore__ inline void SetHF32(bool enableHF32 = false, int32_t transMode = 0)

参数说明

参数名

输入/输出

描述

enableHF32

输入

配置是否开启HF32模式,默认值false(不开启)。

transMode

输入

配置在开启HF32模式时,float转换为hf32时所采用的ROUND模式。默认值0。

0:就近舍入,距离相等时向偶数进位。

1:就近舍入,距离相等时向远离0方向进位。

返回值

支持的型号

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

约束说明

调用示例

1
2
3
4
5
6
REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling);    //  A/B/C/BIAS类型是float
mm.SetTensorA(gm_a);
mm.SetTensorB(gm_b);
mm.SetBias(gm_bias);
mm.SetHF32(true);
mm.IterateAll(gm_c);