华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
https://www.hiascend.com/document/detail/zh/mindie/10RC2/whatismindie/mindie_what_0002.html
LLaMA3-8B支持2张Atlas 300I Duo 推理卡,如果我服务器有4张300I Duo的卡,是不是另外两张卡在推理时就多余了?我的服务器是不是只要2张卡就够了?
我要发帖子
https://www.hiascend.com/document/detail/zh/mindie/10RC2/whatismindie/mindie_what_0002.html
LLaMA3-8B支持2张Atlas 300I Duo 推理卡,如果我服务器有4张300I Duo的卡,是不是另外两张卡在推理时就多余了?我的服务器是不是只要2张卡就够了?