Atlas 300I Pro多模态大模型支持情况
收藏回复举报
Atlas 300I Pro多模态大模型支持情况
t('forum.solved') 已解决
发表于2025-05-19 13:39:46
0 查看

硬件

Atlas 300I Pro 24GB * 8 310p

问题

参考Atlas 300I Duo所支持的模型

1.MindIE 2.0.RC1所支持的多模态大模型,Atlas 300I Duo基本不支持。 https://www.hiascend.com/document/detail/zh/mindie/20RC1/modellist/mindie_modellist_0002.html

2.对于参数量>=32B的大语言模型,Atlas 300I Duo也支持较少。

需求

  1. 没有适配的模型,可以提供教程自己做适配吗?
  2. 不能自己适配,部署参数量>=32B的大语言模型、多模态大模型,推荐使用哪款卡?(除了800I A2)

我要发帖子