香橙派AIPRO(20T)搭载Ascend310B1,支持借助torch-npu来在NPU上部署pytorch框架的大模型吗
收藏回复举报
香橙派AIPRO(20T)搭载Ascend310B1,支持借助torch-npu来在NPU上部署pytorch框架的大模型吗
t('forum.solved') 已解决
发表于2025-02-20 22:10:49
0 查看

我想要在香橙派AIPRO(20T)的NPU上部署一个小规模的模型,但是在安装torch-npu包的时候,一直报错,执行

python3 -c "import torch;import torch_npu;print(torch_npu.npu.is_available())"

,结果返回true,说明安装成功了,但是执行后面的例程时,出现很严重的报错,如下:

cke_9235.png

看到网上说是不支持香橙派里的这款芯片,所以我想弄明白是我没有安装对torch-npu的版本,还是安装前的依赖没有解决,还是这款芯片本身就不支持torch.npu,只能用mindspore部署

我要发帖子