昇腾社区首页
中文
注册
开发者
下载

常用数据精度类型

在CPU计算场景中,我们经常使用双精度浮点类型double,也称为FP64或者float64。但是在机器学习和AI加速器计算场景下,由于参数规模巨大,我们很难也没有必要使用双精度数来存储和计算。常用的数据精度类型包括单精度浮点数和半精度浮点数,具体可参见单精度浮点数半精度浮点数