用训练好的模型推理,推理速度越来越慢
收藏回复举报
用训练好的模型推理,推理速度越来越慢
t('forum.solved') 已解决
发表于2023-04-09 10:49:55
0 查看

Windows,cpu,pytorch迁移到mindspore

用训练好的模型做预测,但是推理过程中发现推理速度越来越慢,我设置了变量i来观察结果,发现前几百个循环的速度还行,十几秒就i就到300了,我就跑了一晚上,早上过来发现才到7600(一共应该是10366),我在循环中打断点,单独跑一次循环,发现就得要十几秒,根本跑不动了,但是程序又没有报错,也没有报内存不足等,已经跑完的结果也是没问题的,就是越来越慢了,请问这是啥情况:

cke_12235.png

我要发帖子