AMCT（ONNX）

请使用AMCT的安装用户安装依赖的软件，如果安装用户为非root，请确保该用户拥有sudo权限，请使用su - username命令切换到非root用户执行如下命令。

表1 依赖列表

依赖名称

版本号

安装命令

ONNX

1.14.0、1.10.0、1.9.0、1.8.0
  • ONNX 1.14.0版本
    pip3 install onnx==1.14.0 --user
  • ONNX 1.10.0版本
    pip3 install onnx==1.10.0 --user
  • ONNX 1.9.0版本
    pip3 install onnx==1.9.0 --user
  • ONNX 1.8.0版本
    pip3 install onnx==1.8.0 --user

ONNX Runtime

1.16.0、1.9.0、1.8.0、1.6.0

ONNX Runtime CPU安装命令请参见下面指导；1.9.0版本以下ONNX Runtime GPU版本需要用户自行安装。

  • ONNX Runtime 1.16.0版本
    • 安装ONNX Runtime CPU版本
      pip3 install onnxruntime==1.16.0 --user
    • 安装ONNX Runtime GPU版本，安装GPU版本之前请先安装CUDA11.8、cuDNN 8.2.4~8.9.0。EulerOS aarch64操作系统不支持基于GPU的量化。
      pip3 install onnxruntime-gpu==1.16.0 --user
  • ONNX Runtime 1.9.0版本
    pip3 install onnxruntime==1.9.0 --user

    安装ONNX Runtime GPU之前请先安装CUDA11.4、cuDNN 8.2.4。

  • ONNX Runtime 1.8.0版本
    pip3 install onnxruntime==1.8.0 --user

    安装ONNX Runtime GPU之前请先安装CUDA11.0、cuDNN 8.0.5。

  • ONNX Runtime 1.6.0版本
    pip3 install onnxruntime==1.6.0 --user

    安装ONNX Runtime GPU之前请先安装CUDA10.2、cuDNN 8.0.3。

Python

以3.9.2版本为例

Ubuntu操作系统请参见安装Python3.9.2（Ubuntu）。

numpy
  • ONNX 1.14.0配套：1.21.6~1.26.4
  • ONNX 1.10.0、1.9.0、1.8.0配套：1.20.0~1.23.5
  • ONNX 1.14.0版本
    pip3 install numpy==1.21.6 --user
  • ONNX 1.10.0、1.9.0、1.8.0版本
    pip3 install numpy==1.20.0 --user

protobuf
  • ONNX 1.14.0配套：3.20.2~3.20.3
  • ONNX 1.10.0、1.9.0、1.8.0配套：3.13.0+
  • ONNX 1.14.0版本
    pip3 install protobuf==3.20.2 --user
  • ONNX 1.10.0、1.9.0、1.8.0版本
    pip3 install protobuf==3.13.0 --user
父主题： 安装依赖