硬件
Atlas 300I Pro 24GB * 8 310p
问题
参考Atlas 300I Duo所支持的模型
1.MindIE 2.0.RC1所支持的多模态大模型,Atlas 300I Duo基本不支持。 https://www.hiascend.com/document/detail/zh/mindie/20RC1/modellist/mindie_modellist_0002.html
2.对于参数量>=32B的大语言模型,Atlas 300I Duo也支持较少。
需求
- 没有适配的模型,可以提供教程自己做适配吗?
- 不能自己适配,部署参数量>=32B的大语言模型、多模态大模型,推荐使用哪款卡?(除了800I A2)
硬件
Atlas 300I Pro 24GB * 8 310p
问题
参考Atlas 300I Duo所支持的模型
1.MindIE 2.0.RC1所支持的多模态大模型,Atlas 300I Duo基本不支持。 https://www.hiascend.com/document/detail/zh/mindie/20RC1/modellist/mindie_modellist_0002.html
2.对于参数量>=32B的大语言模型,Atlas 300I Duo也支持较少。
需求