Atlas 200I DK A2能够并行推理吗?
收藏回复举报
Atlas 200I DK A2能够并行推理吗?
t('forum.solved') 已解决
新人帖
发表于2023-08-16 21:17:48
0 查看
我想将ChatGLM-6B微调后,在Atlas 200I DK A2上进行部署,该模型部署时需要7GB显存,现在我有多块Atlas 200I DK A2,能进行并行推理吗?

我要发帖子