安装前准备
量化并转换MindSpore模型前,请先完成如下环境准备动作,然后安装昇腾模型压缩工具。
昇腾模型压缩工具用户准备
请使用训练环境下CANN软件包的安装用户安装昇腾模型压缩工具,本章节以非root用户为例进行操作。
环境准备
昇腾模型压缩工具需要在带NPU设备的训练环境下安装,硬件配套关系如下:
类别 |
版本限制 |
获取方式 |
注意事项 |
---|---|---|---|
带NPU设备的训练环境所需操作系统 |
Ubuntu 18.04 x86_64、 EulerOS release 2.0 (SP10) aarch64 |
仅支持基于NPU的量化。 |
|
MindSpore |
1.5.0 |
安装完后,需要配置环境变量,并建议进行安装验证。 |
|
Python |
3.9.0和3.7.5 推荐使用3.9.0 |
昇腾模型压缩工具以及训练环境搭建都需要安装该依赖,具体安装方法请参见《CANN 软件安装指南》>通过命令行方式安装>安装开发环境>安装OS依赖章节。 |
- |
numpy |
1.16.0+ |
请参见安装依赖。 |
- |
protobuf |
3.13.0+ |
- |
安装依赖
请参见《CANN 软件安装指南》>通过命令行方式安装>安装开发环境>安装OS依赖章节。安装完成后,还需要执行如下命令安装相关依赖。
执行pip3.9.0 list命令检查wget、numpy、protobuf 软件是否安装,若提示相应版本信息,则说明已经安装,否则请执行如下安装命令。
依赖名称 |
版本号 |
安装命令 |
---|---|---|
numpy |
1.16.0+ |
pip3.9.0 install numpy==1.16.0 --user |
protobuf |
3.13.0+ |
pip3.9.0 install protobuf==3.13.0 --user |
wget |
3.2 |
pip3.9.0 install wget==3.2 --user |
上传软件包
以昇腾模型压缩工具的安装用户将Ascend-cann-amct_{software version}_{arch}.tar.gz软件包上传到Linux服务器任意目录下,本示例为上传到$HOME/amct/目录。
执行如下命令解压昇腾模型压缩工具软件包:
tar -zxvf Ascend-cann-amct-{software version}_{arch}.tar.gz
获得如下内容:
一级目录 |
二级目录 |
说明 |
使用场景及注意事项 |
---|---|---|---|
amct_caffe/ |
Caffe框架昇腾模型压缩工具目录。 |
|
|
amct_caffe-{version}-py3-none-linux_{arch}.whl |
Caffe框架昇腾模型压缩工具安装包。 |
||
caffe_patch.tar.gz |
Caffe源代码增强包。 |
||
amct_tf/ |
TensorFlow框架昇腾模型压缩工具目录。 |
||
amct_tensorflow-{version}-py3-none-linux_{arch}.tar.gz |
TensorFlow框架昇腾模型压缩工具安装包。
|
|
|
amct_tensorflow-{version}-py3-none-linux_{arch}.whl |
|||
amct_tensorflow_ascend-{version}-py3-none-linux_{arch}.tar.gz |
基于TF_Adapter的昇腾模型压缩工具安装包。
|
|
|
amct_tensorflow_ascend-{version}-py3-none-linux_{arch}.whl |
|||
amct_pytorch/ |
PyTorch框架昇腾模型压缩工具目录。 |
|
|
amct_pytorch-{version}-py3-none-linux_{arch}.tar.gz |
PyTorch框架昇腾模型压缩工具源码安装包。 |
||
amct_onnx/ |
ONNX模型昇腾模型压缩工具目录。 |
|
|
amct_onnx-{version}-py3-none-linux_{arch}.whl |
ONNX模型昇腾模型压缩工具安装包。 |
||
amct_onnx_op.tar.gz |
昇腾模型压缩工具基于ONNX Runtime的自定义算子包。 |
||
amct_ms/ |
MindSpore框架昇腾模型压缩工具目录。 |
|
|
amct_mindspore-{version}-py3-none-linux_{arch}.whl |
MindSpore框架昇腾模型压缩工具安装包。 |
||
amct_acl/ |
基于AscendCL接口的昇腾模型压缩工具目录。 |
|
|
Ascend-amct_acl-{software version}-linux.{arch}.run |
基于AscendCL接口的昇腾模型压缩工具安装包。 |
||
third_party/ |
Ascend-nca-{software version}-linux.{arch}.run |
NCA(Neural Compute Agent)软件包。 |
基于性能的自动量化场景下使用。当前版本暂不支持该功能。 |
其中:{version}表示昇腾模型压缩工具具体版本号,{software version}为软件版本号。{arch}表示具体操作系统架构。