我们对Atlas 300I Pro推理卡很感兴趣,但采购前想咨询下,据产品介绍我们知道这款推理卡只有推理功能,插在device端。
1,host端产生数据通过PCIE传到device端的推理卡上进行AI推理,推理得到的结果再返回host端,对吗?
2,模型训练我们是使用Nvidia显卡在x86上进行的,训练得到了tensorflow模型model,那这个model可以直接在Atlas 300I Pro上加载吗?或者说还需要什么转化?
3,x86作为host,模型在host端加载一次,也只用传入推理卡一次吗?比如有多组数据需要分多次进行推理,那每传一组数据进推理卡,不用将相同的模型也传入吧?
4,推理过程使用x86机器,Atlas 300I Pro插在原来显卡卡槽位置是吗?
我们对Atlas 300I Pro推理卡很感兴趣,但采购前想咨询下,据产品介绍我们知道这款推理卡只有推理功能,插在device端。
1,host端产生数据通过PCIE传到device端的推理卡上进行AI推理,推理得到的结果再返回host端,对吗?
2,模型训练我们是使用Nvidia显卡在x86上进行的,训练得到了tensorflow模型model,那这个model可以直接在Atlas 300I Pro上加载吗?或者说还需要什么转化?
3,x86作为host,模型在host端加载一次,也只用传入推理卡一次吗?比如有多组数据需要分多次进行推理,那每传一组数据进推理卡,不用将相同的模型也传入吧?
4,推理过程使用x86机器,Atlas 300I Pro插在原来显卡卡槽位置是吗?