300IPro小模型推理报错
收藏回复举报
300IPro小模型推理报错
t('forum.solved') 已解决
发表于2024-09-30 15:42:41
0 查看

使用300IPro卡,用gunicorn启服务进行连续小模型推理时,第一次推理结果正常,第二次推理报错,模型为自研分割模型。

此为推理函数:cke_1578.png

推理报错截图如下:

cke_4047.png

推理打屏日志见附件

我要发帖子