设置是否使能HF32(矩阵乘计算时可采用的数据类型)模式。使能后,在矩阵乘计算时,float32数据类型会转换为hf32数据类型,可提升计算性能,但同时也会带来精度损失。
1 | __aicore__ inline void SetHF32(bool enableHF32 = false, int32_t transMode = 0) |
参数名 |
输入/输出 |
描述 |
---|---|---|
enableHF32 |
输入 |
配置是否开启HF32模式,默认值false(不开启)。 |
transMode |
输入 |
配置在开启HF32模式时,float32转换为hf32时所采用的ROUND模式。默认值0。 0:就近舍入,距离相等时向偶数进位。 1:就近舍入,距离相等时向远离0方向进位。 |
无
无
1 2 3 4 5 6 | REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling); // A/B/C/BIAS类型是float mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); mm.SetBias(gm_bias); mm.SetHF32(true); mm.IterateAll(gm_c); |