多次调用model.predict()预测接口,GPU显示内存不足问题
收藏回复举报
多次调用model.predict()预测接口,GPU显示内存不足问题
t('forum.solved') 已解决
新人帖
发表于2023-04-27 21:51:25
0 查看

1.首先使用flask,提供一个restful接口 true

2.使用一个循环,去调用上面接口,当调用500多次时,出现显卡内存不足

true

3.在上述问题中,输入的数据为一个模拟的(1,3,244,244)维度的数据。但是循环调用此接口,使用nvidia-smi,查询,可以看到内存不断增加。但是不明白为什么会出现这种情况,请大神帮忙分析一下。

我要发帖子