hi 这边想使用pytorch在线推理,想确认下在线推理一定要先迁移模型训练之后才可以吗,不能直接set npu device之后跑模型吗?
这边测试了一个mobilenetv2的预训练模型,直接跑pytorch模型是ok的,导入torch_npu, 相关的操作之后就挂了,代码如下,麻烦帮忙看下,感谢感谢;
依赖都是按照教程安装:https://www.hiascend.com/document/detail/zh/canncommercial/601/envdeployment/instg/instg_000035.html
cann6.0.1, pytorch 1.8.1
import torch import torch_npu from MobileNetV2 import mobilenet_v2 from torch_npu.contrib import transfer_to_npu device=0 torch_npu.npu.set_device(device) model = mobilenet_v2(pretrained=True) model.to(device) print(model) model.eval() with torch.no_grad(): inputs=torch.randint(0,255,(1,3,224,224)).to(torch.float) outputs=model.forward(inputs) print("output:",outputs.shape)

hi 这边想使用pytorch在线推理,想确认下在线推理一定要先迁移模型训练之后才可以吗,不能直接set npu device之后跑模型吗?
这边测试了一个mobilenetv2的预训练模型,直接跑pytorch模型是ok的,导入torch_npu, 相关的操作之后就挂了,代码如下,麻烦帮忙看下,感谢感谢;
依赖都是按照教程安装:https://www.hiascend.com/document/detail/zh/canncommercial/601/envdeployment/instg/instg_000035.html
cann6.0.1, pytorch 1.8.1
import torch import torch_npu from MobileNetV2 import mobilenet_v2 from torch_npu.contrib import transfer_to_npu device=0 torch_npu.npu.set_device(device) model = mobilenet_v2(pretrained=True) model.to(device) print(model) model.eval() with torch.no_grad(): inputs=torch.randint(0,255,(1,3,224,224)).to(torch.float) outputs=model.forward(inputs) print("output:",outputs.shape)