安装前准备

操作系统及版本

EulerOS release 2.0 (SP10) aarch64

cat /etc/*release && uname -m

仅支持基于CPU量化。

操作系统及版本

Ubuntu 20.04 x86_64

请从Ubuntu官网下载对应版本软件进行安装，安装完成后查询命令为：

cat /etc/*release && uname -m

支持基于CPU，GPU的量化。

操作系统及版本

Ubuntu 20.04 aarch64

请从Ubuntu官网下载对应版本软件进行安装，安装完成后查询命令为：

cat /etc/*release && uname -m

支持基于CPU，GPU的量化。

操作系统及版本

KylinV10SP1 x86_64

-

仅支持基于CPU量化。

操作系统及版本

openEuler 20.03 x86_64

-

仅支持基于CPU量化。

操作系统及版本

UOS20 aarch64

-

仅支持基于CPU量化。

CUDA toolkit/CUDA driver

11.2或10.0

请用户自行获取相关软件包进行安装，例如可以参见如下链接获取相关toolkit包，该包中包括driver软件包。

https://developer.nvidia.com/cuda-toolkit-archive

如果使用GPU模式执行量化功能，则CUDA软件必须安装。

• TensorFlow2.6.5版本对应的CUDA版本为11.2
• TensorFlow1.15.0版本对应的CUDA版本为10.0。

Python

Python3.7.x（3.7.5~3.7.11）、Python3.8.x（3.8.0~3.8.11）、Python3.9.x（3.9.0~3.9.2）

推荐使用Python3.9.2

Ubuntu、KylinV10SP1、openEuler和UOS操作系统请参见安装Python3.9.2（Ubuntu）。

EulerOS操作系统请参见安装Python3.9.2（EulerOS ）。

• 安装依赖时，请确保服务器能够连接网络。
• 本手册以Python3.9.2为例进行介绍，相应环境变量和安装命令以实际安装Python版本为准。

TensorFlow

2.6.5或1.15.0

请参见安装依赖。

TensorFlow版本与Python版本的对应关系：

• 2.6.5版本推荐使用的Python版本为3.9.2
• 1.15.0版本使用的Python版本只能为3.7.5

numpy

1.16.0~1.23.5或1.20.0~1.23.5

请参见安装依赖。

• 若安装的TensorFlow版本为2.6.5，则numpy安装版本必须为1.20.0~1.23.5。
• 若安装的TensorFlow版本为1.15.0，则numpy安装版本为1.16.0~1.23.5。

protobuf

3.13.0+

请参见安装依赖。

-

Python

3.9.2或3.7.5

Ubuntu、KylinV10SP1、openEuler和UOS操作系统请参见安装Python3.9.2（Ubuntu）。

TensorFlow

2.6.5或1.15.0

用户根据实际情况选择安装CPU或GPU。

• TensorFlow 2.6.5 CPU版本安装命令：

  python3 -m pip install tensorflow-cpu==2.6.5 --user

• TensorFlow 2.6.5 GPU版本安装命令：

  python3 -m pip install tensorflow-gpu==2.6.5 --user

• TensorFlow 1.15 CPU版本安装命令：

  python3 -m pip install tensorflow-cpu==1.15.0 --user

• TensorFlow 1.15 GPU版本安装命令：

  python3 -m pip install tensorflow-gpu==1.15.0 --user

numpy

1.16.0~1.23.5或1.20.0~1.23.5

pip3 install numpy==1.16.0 --user
或pip3 install numpy==1.20.0 --user

protobuf

3.13.0+

pip3 install protobuf==3.13.0 --user

amct_caffe/

Caffe框架AMCT目录。

• Atlas A2训练系列产品/Atlas 800I A2推理产品不支持Caffe框架。
• 使用方法请参见《AMCT工具（Caffe）》。
• 需要搭建Caffe环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_caffe-{version}-py3-none-linux_{arch}.whl

Caffe框架AMCT安装包。

caffe_patch.tar.gz

Caffe源代码增强包。

amct_tf/

TensorFlow框架AMCT目录。

amct_tensorflow-{version}-py3-none-linux_{arch}.tar.gz

TensorFlow框架AMCT安装包，通过源码编译方式进行安装。

• amct_tensorflow与amct_tensorflow_ascend软件包不能同时安装。
• 使用方法请参见《AMCT工具（TensorFlow）》。
• 需要搭建TensorFlow环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_tensorflow_ascend-{version}-py3-none-linux_{arch}.tar.gz

基于TF_Adapter的AMCT安装包，通过源码编译方式进行安装。

• amct_tensorflow与amct_tensorflow_ascend软件包不能同时安装。
• 只有Atlas 训练系列产品支持该目录下的特性。
• 需要搭建TensorFlow环境，并借助带有NPU设备的在线推理环境，量化完的模型，可以基于昇腾AI处理器完成在线推理业务。

amct_pytorch/

PyTorch框架AMCT目录。

• 使用方法请参见《AMCT工具（PyTorch）》。
• 需要搭建PyTorch环境，量化完的模型，如果要执行推理，则需要借助安装昇腾AI处理器的推理环境。

amct_pytorch-{version}-py3-none-linux_{arch}.tar.gz

PyTorch框架AMCT源码安装包。

amct_onnx/

ONNX模型AMCT目录。

• 使用方法请参见《AMCT工具（ONNX）》。

amct_onnx-{version}-py3-none-linux_{arch}.whl

ONNX模型AMCT安装包。

amct_onnx_op.tar.gz

AMCT基于ONNX Runtime的自定义算子包。

amct_ms/

MindSpore框架AMCT目录。

• Atlas 200/300/500 推理产品：不支持amct_ms目录下的相关特性。
• Atlas 200I/500 A2推理产品：不支持amct_ms目录下的相关特性。
• Atlas 推理系列产品：不支持amct_ms目录下的相关特性。
• 使用方法请参见《AMCT工具（MindSpore）》。
• 需要搭建MindSpore环境，并借助带NPU设备的训练环境，将MindSpore模型量化后输出为*.air格式模型，只能借助带NPU设备的训练环境，量化后的模型要进行推理，也可以借助该环境完成。

amct_mindspore-{version}-py3-none-linux_{arch}.whl

MindSpore框架AMCT安装包。

conf/

-

-

记录包的安装信息，用户无需关注。

latest_manager/

-

-

安装升级使用的公共脚本，用户无需关注。