采购前问题Atlas 300I Pro训练与推理
收藏回复举报
采购前问题Atlas 300I Pro训练与推理
t('forum.solved') 已解决
新人帖
发表于2022-11-30 16:06:19
0 查看

我们对Atlas 300I Pro推理卡很感兴趣,但采购前想咨询下,据产品介绍我们知道这款推理卡只有推理功能,插在device端。

1,host端产生数据通过PCIE传到device端的推理卡上进行AI推理,推理得到的结果再返回host端,对吗?

2,模型训练我们是使用Nvidia显卡在x86上进行的,训练得到了tensorflow模型model,那这个model可以直接在Atlas 300I Pro上加载吗?或者说还需要什么转化?

3,x86作为host,模型在host端加载一次,也只用传入推理卡一次吗?比如有多组数据需要分多次进行推理,那每传一组数据进推理卡,不用将相同的模型也传入吧?

4,推理过程使用x86机器,Atlas 300I Pro插在原来显卡卡槽位置是吗?

本帖最后由 匿名用户2023/06/25 10:59:43 编辑

我要发帖子