使用amct-mindspore压缩工具量化ResNet50模型,转换为om后,推理时性能下降严重
收藏回复举报
使用amct-mindspore压缩工具量化ResNet50模型,转换为om后,推理时性能下降严重
t('forum.solved') 已解决
发表于2023-07-19 10:47:03
0 查看

参考样例为:https://gitee.com/ascend/samples/tree/master/python/level1_single_api/9_amct/amct_mindspore/ResNet50

amct-mindspore量化resnet50模型后,使用cifar10数据集,直接进行测试,性能为
1689582374900.png

按照示例代码运行得到air模型文件后,使用atc工具将其转换为om模型文件,进行推理,最终测试效果为
1689581829371.png

软件版本:

-- CANN 版本 (CANN 6.0.1):
--MindSpore(1.10.0-ascend)
--Python 版本 (Python 3.7.5):
--操作系统版本 (Ubuntu 18.04):
--AMCT版本(6.3.RC2.alpha003)

我要发帖子