Ascend310芯片,加速卡300I是否支持大模型的推理,transform的网络结构推理
收藏回复举报
Ascend310芯片,加速卡300I是否支持大模型的推理,transform的网络结构推理
新人帖
发表于2023-11-09 14:37:09
0 查看

查询到加速卡300I的cann和驱动都是6.01的版本,对应的pytorch版本较低。

是否有相关的案例支持大模型的部署?查看了相关的资料只有910芯片支持大模型。

问题:在加速卡300I上面部署大模型和transform的网络,有什么软件方法可以解决吗?非常感谢!

我要发帖子