模型推理
- 以root用户远程登录开发者套件,将在PC训练模型获得的压缩包上传到开发者套件,上传方法可参见Windows与开发者套件的文件传输,进入压缩包上传目录执行以下命令解压压缩包。
tar -xvf edge_infer.tar
- 进入解压后文件目录执行以下命令将Windows格式文件转换为Unix、Linux格式。
cd edge_infer/ && dos2unix `find .`
若提示命令dos2unix not found,请使用命令安装。
- Ubuntu22.04版本镜像:
apt install dos2unix
- OpenEuler22.03版本镜像:
yum install dos2unix
- Ubuntu22.04版本镜像:
- 进入解压缩目录执行如下命令进行模型转换,获得om模型。
bash atc.sh
模型转换成功回显如下:
set env successfully!! start exec atc ATC start working now, please wait for a moment. .................................ATC run success, welcome to the next use.
- 执行以下命令进行推理。
bash run.sh
推理成功回显如下:
set env successfully!! start exec atc [Sample] init resource stage: Init resource success load model mobilenetv3_100_bs1.om Init model resource [Model] create model output dataset: [Model] create model output dataset success [Model] class Model init resource stage success .... image name :./data/watermelon/pic (85).jpg, infer result: apple //识别pic (85).jpg中物品类别为苹果 .... image name :./data/watermelon/pic (36).jpg, infer result: tangerine //识别pic (36).jpg中物品类别为柑橘 Execute end. Acc: 0.25 INFO: convert model success! Release acl resource, 1 Start relase resource 0 Model start release... Model release source success Release acl resource success
run.sh会调用推理主程序infer.py,执行此条命令。
python3.9 infer.py --model mobilenetv3_100_bs1.om --label_path class_indices.json --output_path ./
命令行参数解析:
- model:分类模型文件目录。
- label_path:训练生成的class_indices.json地址。
- output_path:推理分类结果输出cls_output.txt地址。
父主题: 构建图像分类应用