onnxruntime-cann如何获取。推理速度怎样
收藏回复举报
onnxruntime-cann如何获取。推理速度怎样
t('forum.solved') 已解决
发表于2024-05-29 17:09:55
0 查看
注意到可以使用onnxruntime-cann引擎调用昇腾npu跑**.onnx格式模型,onnxruntime-cann是通过onnxruntime源码编译过来的吗,我看https://pypi.org/ 和阿里pip、清华pip源地址都没有onnxruntime-cann现成的.whl。还有一点疑问,onnxruntime-cann推理onnnx速度跟 onnx转成om推理,这两种方式哪种更快,快多少?有大概得数据吗

我要发帖子