训练服务器上推理部署精度下降严重,开发套件上推理部署精度正常
收藏回复举报
训练服务器上推理部署精度下降严重,开发套件上推理部署精度正常
t('forum.solved') 已解决
发表于2023-07-25 15:45:33
0 查看

Altas 800训练服务器(型号9000)

环境:cann.6.3RC1.alpha003

Mindspore 2.0.0

  1. 分类模型resnet18在经过量化训练,转换为可部署的定点模型后,导出得到最终的air模型
  2. 在训练服务器上面,结果atc工具转换为om模型,命令为:

  3. 推理测试结果为:

cke_19959.png

Altas 200I DK A2开发者套件

环境:cann 6.2.RC1(使用的是官方提供的镜像)

Mindspore 2.0.0

  1. 上传训练服务器(Ascend 910)上面导出的air模型文件,使用atc工具转换为om模型,命令为:

  2. 推理测试结果为:

cke_19961.png

官网cann说明中cann6.3RC1.alpha003版本支持推理场景,但实际做定点推理部署时为什么效果不好呢?是atc工具转换的问题吗?还是ascend910处理器和ascend310处理器有所区别?麻烦解答一下这个问题(atc转换fusion结果以及测试代码见附件)

本帖最后由 匿名用户2023/07/25 16:06:07 编辑

我要发帖子