昇腾社区首页
中文
注册
开发者
下载
支持
积分兑换 NEW

安装前准备

用户准备

请使用在线推理环境下CANN软件包的安装用户安装AMCT，本章节以非root用户为例进行操作。

关于非root用户权限请参见《CANN软件安装指南》手册>安装开发环境>准备安装及运行用户章节。

环境准备

AMCT需要在在线推理环境下安装，配套关系如下：
表1 版本配套信息

类别

版本限制

获取方式

注意事项

在线推理环境所需操作系统

请参见支持的OS清单。

请从Ubuntu官网下载对应版本软件进行安装，安装完成后查询命令为：

cat /etc/*release && uname -m

支持基于NPU，CPU的量化。不支持GPU量化。

Python

Python3.7.x（3.7.5~3.7.11）、Python3.8.x（3.8.0~3.8.11）、Python3.9.x（3.9.0~3.9.2）

推荐使用Python3.9.2

请参见《CANN软件安装指南》手册>安装开发环境>安装依赖章节。

若需要搭建Python3.9.2环境，Ubuntu操作系统请参见安装Python3.9.2（Ubuntu）。

本手册以Python3.9.2为例进行介绍，相应环境变量和安装命令以实际安装Python版本为准。

TensorFlow CPU版本

2.6.5或1.15.0

请参见安装依赖。

量化后的仿真模型不支持在GPU运行，故只需安装CPU版本即可。

TensorFlow版本与Python版本的对应关系：

  • 2.6.5版本推荐使用的Python版本为3.9.2
  • 1.15.0版本使用的Python版本只能为3.7.5

Pillow

6.0.0+

请参见安装依赖。

-

安装依赖

请参见《CANN软件安装指南》>安装开发环境>安装依赖章节，安装完成后，还需要执行如下命令安装相关依赖，对图像处理时需要依赖Pillow软件：

表2 依赖列表

依赖名称

版本号

安装命令

TensorFlow CPU版本

2.6.5或1.15.0

用户根据实际情况选择如下版本进行安装：

  • TensorFlow 2.6.5 CPU版本安装命令：
    python3 -m pip install tensorflow-cpu==2.6.5 --user
  • TensorFlow 1.15 CPU版本安装命令：
    python3 -m pip install tensorflow-cpu==1.15 --user
须知：
  • 使用不同的TensorFlow版本时，请确保上述命令中的Python版本对应正确（切换所使用Python版本的环境变量即可）。
  • 当前仅支持TensorFlow 1.15.0版本的网络模型进行量化，但量化过程中支持在TensorFlow 1.15.0、2.6.5版本环境进行推理。

Pillow

6.0.0+

 
pip3 install pillow==6.0.0 --user

上传软件包

以AMCT的安装用户将Ascend-cann-amct_{software version}_linux-{arch}.tar.gz软件包上传到Linux服务器任意目录下，本示例为上传到$HOME/amct/目录。

执行如下命令解压AMCT软件包：

tar -zxvf Ascend-cann-amct-{software version}_linux-{arch}.tar.gz

获得如下内容：

表3 AMCT软件包解压后内容

一级目录

二级目录

说明

使用场景及注意事项

amct_caffe/

Caffe框架AMCT目录。
  • 使用方法请参见《AMCT工具（Caffe）》。
  • 需要搭建Caffe环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_caffe-{version}-py3-none-linux_{arch}.whl

Caffe框架AMCT安装包。

caffe_patch.tar.gz

Caffe源代码增强包。

amct_tf/

TensorFlow框架AMCT目录。

amct_tensorflow-{version}-py3-none-linux_{arch}.tar.gz

TensorFlow框架AMCT安装包，通过源码编译方式进行安装。
  • amct_tensorflow与amct_tensorflow_ascend软件包不能同时安装。
  • 使用方法请参见《AMCT工具（TensorFlow）》。
  • 需要搭建TensorFlow环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_tensorflow_ascend-{version}-py3-none-linux_{arch}.tar.gz

基于TF_Adapter的AMCT安装包，通过源码编译方式进行安装。
  • amct_tensorflow与amct_tensorflow_ascend软件包不能同时安装。
  • Atlas 200/300/500 推理产品：不支持amct_tensorflow_ascend目录下的相关特性。
  • Atlas 200I/500 A2推理产品：不支持amct_tensorflow_ascend目录下的相关特性。
  • Atlas 推理系列产品：不支持amct_tensorflow_ascend目录下的相关特性。
  • 使用方法请参见《AMCT工具（TensorFlow,Ascend）》。
  • 需要搭建TensorFlow环境，并借助带有NPU设备的在线推理环境，量化完的模型，可以基于昇腾AI处理器完成在线推理业务。

amct_pytorch/

PyTorch框架AMCT目录。
  • 使用方法请参见《AMCT工具（PyTorch）》。
  • 需要搭建PyTorch环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_pytorch-{version}-py3-none-linux_{arch}.tar.gz

PyTorch框架AMCT源码安装包。

amct_onnx/

ONNX模型AMCT目录。

amct_onnx-{version}-py3-none-linux_{arch}.whl

ONNX模型AMCT安装包。

amct_onnx_op.tar.gz

AMCT基于ONNX Runtime的自定义算子包。

amct_ms/

MindSpore框架AMCT目录。
  • Atlas 200/300/500 推理产品：不支持amct_ms目录下的相关特性。
  • Atlas 200I/500 A2推理产品：不支持amct_ms目录下的相关特性。
  • Atlas 推理系列产品：不支持amct_ms目录下的相关特性。
  • 使用方法请参见《AMCT工具（MindSpore）》。
  • 需要搭建MindSpore环境，并借助带NPU设备的训练环境，将MindSpore模型量化后输出为*.air格式模型，只能借助带NPU设备的训练环境，量化后的模型要进行推理，也可以借助该环境完成。

amct_mindspore-{version}-py3-none-linux_{arch}.whl

MindSpore框架AMCT安装包。

conf/

-

-

记录包的安装信息，用户无需关注。

其中：{version}表示AMCT具体版本号，{software version}为软件版本号，{arch}表示具体操作系统架构。

父主题： 工具安装