华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
使用300IPro卡,用gunicorn启服务进行连续小模型推理时,第一次推理结果正常,第二次推理报错,模型为自研分割模型。
此为推理函数:
推理报错截图如下:
推理打屏日志见附件
我要发帖子
使用300IPro卡,用gunicorn启服务进行连续小模型推理时,第一次推理结果正常,第二次推理报错,模型为自研分割模型。
此为推理函数:
推理报错截图如下:
推理打屏日志见附件