800i a2服务器上部署docker-mindie可以跑2个镜像,分别6个卡及2个卡使用吗?
收藏回复举报
800i a2服务器上部署docker-mindie可以跑2个镜像,分别6个卡及2个卡使用吗?
t('forum.solved') 已解决
发表于2025-03-18 16:15:48
0 查看

800i a2服务器上部署docker-mindie可以跑2个镜像,分别6个卡及2个卡使用吗?

---实测,docker run配置的--device=/dev/davinci4 \ 等,并不能限制npu卡的归属;

docker run配置6个卡(--device=/dev/davinci0 \

--device=/dev/davinci1 \

--device=/dev/davinci2 \

--device=/dev/davinci3 \

--device=/dev/davinci4 \

--device=/dev/davinci5 \

--device=/dev/davinci6 \

mindie里面配置8个卡( "npuDeviceIds" : [[0,1,2,3,4,5]],   。。。。。 "worldSize" : 8,);

但实际运行npu-smi info 显示是8个卡在被调用;

我要发帖子