LLaMA3-8B支持2张Atlas 300I Duo 推理卡,如果我服务器有4张300I Duo的卡,是不是另外两张卡在推理时就多余了?
收藏回复举报
LLaMA3-8B支持2张Atlas 300I Duo 推理卡,如果我服务器有4张300I Duo的卡,是不是另外两张卡在推理时就多余了?
t('forum.solved') 已解决
新人帖
发表于2024-08-15 09:55:08
0 查看

https://www.hiascend.com/document/detail/zh/mindie/10RC2/whatismindie/mindie_what_0002.html

2024-08-15_093013.jpg

LLaMA3-8B支持2张Atlas 300I Duo 推理卡,如果我服务器有4张300I Duo的卡,是不是另外两张卡在推理时就多余了?我的服务器是不是只要2张卡就够了?

我要发帖子