求助:使用AMCT进行4选2结构化稀疏后性能没有提升
收藏回复举报
求助:使用AMCT进行4选2结构化稀疏后性能没有提升
t('forum.solved') 已解决
新人帖
发表于2024-03-07 17:17:54
0 查看

使用amct_pytorch工具对模型进行了4选2结构化稀疏,config如下

cke_905.png

稀疏后的模型转化om后,与原始模型相比,小了10M

cke_7852.png

但两个模型跑了一下,耗时没有区别,性能没有提升

cke_17965.png

求助,有没有大神帮忙分析下,为啥性能没有提升

我要发帖子