Mindx推理过程中,如果遇到解码失败,可能会导致推理中止。
收藏回复举报
Mindx推理过程中,如果遇到解码失败,可能会导致推理中止。
t('forum.solved') 已解决
新人帖
发表于2023-03-23 10:38:42
0 查看

生产项目中发现如果遇到解码失败,可能会导致推理中止。

cke_1213.png

报错误,NPU的使用率就会降到0%,那么应该就是没有在继续取流推理了。

环境:

硬件设备:ITS 800

nnrt版本:5.0.5

Mindx版本:3.0.RC1

本帖最后由 匿名用户2024/12/05 16:36:46 编辑

我要发帖子