FP16计算过程求助
收藏回复举报
FP16计算过程求助
发表于2024-02-28 11:43:18
0 查看

请问昇腾开发板,对fp32模型量化为int8模型之后,有的算子输入输出tensor被保存为fp16;

fp16计算过程是怎么样的,是直接硬件计算;还是通过程序把fp16转化为fp32进行计算,在数据保存的时候再把fp32转化为fp16进行保存,节省空间,

请问昇腾开发板是fp16计算过程是哪一种方法

本帖最后由 匿名用户 于 2024/02/29 09:09:20 编辑

我要发帖子