昇腾社区首页
中文
注册

模型推理

  1. root用户远程登录开发者套件,将在PC训练模型获得的压缩包上传到开发者套件,上传方法可参见Windows与开发者套件的文件传输,进入压缩包上传目录执行以下命令解压压缩包。
    tar -xvf edge_infer.tar
  2. 进入解压后文件目录执行以下命令将Windows格式文件转换为Unix、Linux格式。
    cd edge_infer/ && dos2unix `find .`

    若提示命令dos2unix not found,请使用命令安装。

    • Ubuntu22.04版本镜像:
      apt install dos2unix
    • OpenEuler22.03版本镜像:
      yum install dos2unix
  3. 进入解压缩目录执行如下命令进行模型转换,获得om模型。
    bash atc.sh

    模型转换成功回显如下:

    set env successfully!!
    start exec atc
    ATC start working now, please wait for a moment.
    .................................ATC run success, welcome to the next use.
  4. 执行以下命令进行推理。
    bash run.sh

    推理成功回显如下:

    set env successfully!!
    start exec atc
    [Sample] init resource stage:
    Init resource success
    load model  mobilenetv3_100_bs1.om
    Init model resource
    [Model] create model output dataset:
    [Model] create model output dataset success
    [Model] class Model init resource stage success
    ....
    image name :./data/watermelon/pic (85).jpg, infer result: apple  //识别pic (85).jpg中物品类别为苹果
    ....
    image name :./data/watermelon/pic (36).jpg, infer result: tangerine //识别pic (36).jpg中物品类别为柑橘
    Execute end. Acc: 0.25
    INFO: convert model success!
    Release acl resource,  1
    Start relase resource  0
    Model start release...
    Model release source success
    Release acl resource success

    推理结果图如图1图2所示。

    图1 查看推理结果1
    图2 查看推理结果2

    run.sh会调用推理主程序infer.py,执行此条命令。

    python3.9 infer.py --model mobilenetv3_100_bs1.om --label_path class_indices.json --output_path ./ 

    命令行参数解析:

    • model:分类模型文件目录。
    • label_path:训练生成的class_indices.json地址。
    • output_path:推理分类结果输出cls_output.txt地址。