请问板端跑AI的一些问题
收藏回复举报
请问板端跑AI的一些问题
t('forum.solved') 已解决
发表于2024-01-17 15:07:02
0 查看

尊敬的开发者,您好!请问一下,(1)这个板子的npu是否只有一个?我使用npu-smi info 查询内容chip 和 device都是只有一个型号0。这是否意味着不能多核并行处理yolov8.om模型?

(2)我在运行模型推理时,想增加它的推理速度,还有什么方法没?

(3)在推理yolov8模型时,发现AI core和cpu的使用率都没有达到满负荷状态,这是否正常,如何使用api能提高两者的使用率?提高使用率是否能提高推理速度?
期待您的回答!非常感谢!

我要发帖子