一台设备多npu运行,只能成功调用第0块npu
收藏回复举报
一台设备多npu运行,只能成功调用第0块npu
t('forum.solved') 已解决
发表于2024-10-31 20:07:55
0 查看

同一台设备共有4块atlas 300I pro卡,样例的pipeline中可以设置使用第几块npu,当我同时启动四个样例时,我想把4个样例分配到不同的npu做计算,发现只有第0块npu有结果,调用第1块npu的样例没有推理结果,也不报错,就是单纯的推理结果为空,我把npu设置回0时,又有推理结果了。不理解我设置为1没报错说明设备是找到了,但是没推理结果看不懂。

我修改pipeline设备编号的地方如下:

"classification+detection": { 

    "stream_config": { 

      "deviceId": "0" 

    },

推理结果获取的地方如下:

inferResult = self.streamManagerApi.GetResultWithUniqueId(self.STREAMNAME, uniqueId, 10000)

我要发帖子