--precision_mode_v2参数对模型精度的影响
收藏回复举报
--precision_mode_v2参数对模型精度的影响
t('forum.solved') 已解决
发表于2024-10-23 16:15:51
0 查看

下面的文档写着,--precision_mode_v2参数的默认值为fp16,fp16表示算子支持float16和float32数据类型时,强制选择float16。

请问意思是使用ATC命令转换模型时,不使用--precision_mode_v2参数,则转换后的om模型精度为fp16吗?

文档链接:https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/700alpha003/infacldevg/atctool/atlasatc_16_0097.html

截图如下:

cke_3960.png

cke_4409.png

我要发帖子