问题:模型为生成的单batch,onnx模型(opset=11), 在英伟达卡测试正常,迁移到昇腾服务器时,无法正常调用npu(910A).
1. 版本信息如图:
2. 推理代码如图:
在实际推理时,打印出来的device为 CPU-CANN;卡0,1均为相同结果
同时,显存占用情况:
3 用atc工具将onnx转为om模型显示成功,转换命令:
atc --model=one.onnx --framework=5 --output=oneb --input_shape="images:1,3,512,512" --soc_version=Ascend910B
可是,在推理时会有相同的情况,显存占用同上图;
请教下如何改进,谢谢
问题:模型为生成的单batch,onnx模型(opset=11), 在英伟达卡测试正常,迁移到昇腾服务器时,无法正常调用npu(910A).
1. 版本信息如图:
2. 推理代码如图:
在实际推理时,打印出来的device为 CPU-CANN;卡0,1均为相同结果
同时,显存占用情况:
3 用atc工具将onnx转为om模型显示成功,转换命令:
atc --model=one.onnx --framework=5 --output=oneb --input_shape="images:1,3,512,512" --soc_version=Ascend910B
可是,在推理时会有相同的情况,显存占用同上图;
请教下如何改进,谢谢