快速入门
本章节以各框架下模型转换为例,演示如何快速转换一个离线模型。
- 版本兼容性说明:
- 针对8.5.0及之后版本:使用ATC工具进行模型转换时,必须安装与目标AI处理器匹配的ops算子包,否则会导致编译失败。
- 低版本的CANN软件包环境上转换出的离线模型,支持在高版本的CANN软件包环境上运行,兼容4个版本周期。
- 若开发环境架构为Arm(aarch64),模型转换耗时较长,则可以参考开发环境架构为Arm(aarch64)时模型转换耗时较长解决。
- 如果模型转换时,用户使用了设置网络模型精度参数--precision_mode或--precision_mode_v2:
开源框架的TensorFlow网络模型转换成离线模型
- 获取TensorFlow网络模型。
- 执行如下命令生成离线模型。(如下命令中使用的目录以及文件均为样例,请以实际为准)
atc --model=$HOME/module/resnet50_tensorflow_1.7.pb --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version>- --model:ResNet50网络模型文件所在路径。
- --framework:原始框架类型,3表示TensorFlow。
- --output:生成的离线模型路径。
- --soc_version:AI处理器的型号。
关于参数的详细解释请参见参数说明,请使用与芯片名相对应的<soc_version>取值进行模型转换,然后再进行推理,具体使用芯片查询方法请参见--soc_version。
- 若提示如下信息,则说明模型转换成功。
ONNX网络模型转换成离线模型
- 获取ONNX网络模型。
- 执行如下命令生成离线模型。(如下命令中使用的目录以及文件均为样例,请以实际为准)
atc --model=$HOME/module/resnet50_official.onnx --framework=5 --output=$HOME/module/out/onnx_resnet50 --soc_version=<soc_version>
- --model:ResNet50网络模型文件所在路径。
- --framework:原始框架类型,5表示ONNX。
- --output:生成的离线模型路径。
- --soc_version:AI处理器的型号。
关于参数的详细解释请参见参数说明,请使用与芯片名相对应的<soc_version>取值进行模型转换,然后再进行推理,具体使用芯片查询方法请参见--soc_version。
- 若提示如下信息,则说明模型转换成功。
开源框架的Caffe网络模型转换成离线模型
- 获取Caffe网络模型。
- 执行如下命令生成离线模型。(如下命令中使用的目录以及文件均为样例,请以实际为准)
atc --model=$HOME/module/resnet50.prototxt --weight=$HOME/module/resnet50.caffemodel --framework=0 --output=$HOME/module/out/caffe_resnet50 --soc_version=<soc_version>- --model:ResNet50网络模型文件所在路径。
- --weight:ResNet50网络权重文件所在路径。
- --framework:原始框架类型,0表示Caffe。
- --output:生成的离线模型路径。
- --soc_version:AI处理器的型号。
关于参数的详细解释请参见参数说明,请使用与芯片名相对应的<soc_version>取值进行模型转换,然后再进行推理,具体使用芯片查询方法请参见--soc_version。
- 若提示如下信息,则说明模型转换成功。
*.air格式的模型文件转换成离线模型
- 获取*.air格式模型文件。
- 执行如下命令生成离线模型。(如下命令中使用的目录以及文件均为样例,请以实际为准)
atc --model=$HOME/module/resnet50_export.air --framework=1 --output=$HOME/module/out/resnet50_air --soc_version=<soc_version>- --model:*.air格式的模型文件所在路径。
- --framework:原始框架类型,1表示*.air格式的模型文件。
- --output:生成的离线模型路径。
- --soc_version:AI处理器的型号。
关于参数的详细解释请参见参数说明,请使用与芯片名相对应的<soc_version>取值进行模型转换,然后再进行推理,具体使用芯片查询方法请参见--soc_version。
- 若提示如下信息,则说明模型转换成功。