CANN在线推理
收藏回复举报
CANN在线推理
t('forum.solved') 已解决
发表于2023-04-25 20:37:46
0 查看

hi 这边想使用pytorch在线推理,想确认下在线推理一定要先迁移模型训练之后才可以吗,不能直接set npu device之后跑模型吗?

这边测试了一个mobilenetv2的预训练模型,直接跑pytorch模型是ok的,导入torch_npu, 相关的操作之后就挂了,代码如下,麻烦帮忙看下,感谢感谢;

依赖都是按照教程安装:https://www.hiascend.com/document/detail/zh/canncommercial/601/envdeployment/instg/instg_000035.html

cann6.0.1,  pytorch 1.8.1

import torch import torch_npu from MobileNetV2 import mobilenet_v2 from torch_npu.contrib import transfer_to_npu device=0 torch_npu.npu.set_device(device) model = mobilenet_v2(pretrained=True) model.to(device) print(model) model.eval() with torch.no_grad(): inputs=torch.randint(0,255,(1,3,224,224)).to(torch.float) outputs=model.forward(inputs) print("output:",outputs.shape)

本帖最后由 匿名用户2023/04/25 20:42:22 编辑

我要发帖子