安装torch_npu插件

编译安装适用于进行算子适配开发、CANN版本与PyTorch兼容适配场景下。

以下操作步骤以安装PyTorch 2.0.1版本为例。

  1. 安装依赖。

    选择编译安装方式安装时需要安装系统依赖。目前支持CentOS与Ubuntu操作系统。

    • CentOS
      yum install -y patch libjpeg-turbo-devel dos2unix openblas git 
      yum install -y gcc==7.3.0 cmake==3.12.0
    • Ubuntu
      apt-get install -y patch build-essential libbz2-dev libreadline-dev wget curl llvm libncurses5-dev libncursesw5-dev xz-utils tk-dev liblzma-dev m4 dos2unix libopenblas-dev git 
      apt-get install -y gcc==7.3.0 cmake==3.12.0

    gcc7.3.0版本及以上,cmake3.12.0版本及以上;若需要安装1.11.0版本PyTorch,则gcc需为7.5.0版本以上。

  1. 编译生成torch_npu插件的二进制安装包。CANN和PyTorch的配套关系请通过单击这里查看。

    1. 下载对应PyTorch版本分支代码,进入插件根目录,以v5.0.0.alpha003-pytorch2.0.1为例,其他版本请下载对应PyTorch版本分支代码。
      git clone -b v5.0.0.alpha003-pytorch2.0.1 https://gitee.com/ascend/pytorch.git 
      cd pytorch    
    2. (可选)如果不需要切换opplugin(CANN)的版本,请跳过此步骤;如需切换opplugin版本,如切换opplugin的 master分支最新代码,则进行以下操作进行切换。
      同步submodule,将opplugin等三方库同步到本地。
      git submodule init && git submodule update
      cd third_party/op-plugin/
      # 拉取特定版本的代码并切换到该版本,此处以master为例
      git fetch origin master && git checkout master 
      cd ../../
    3. 编译生成二进制安装包。
      # 指定Python版本编包方式,以Python3.8为例,其他Python版本请使用 --python=3.9或--python3.10
      bash ci/build.sh --python=3.8

  2. 安装pytorch/dist目录下生成的插件torch_npu包,如果使用非root用户安装,需要在命令后加--user

    # 请用户根据实际情况更改命令中的torch_npu包名
    pip3 install --upgrade dist/torch_npu-2.0.1.post1-cp38-cp38-linux_aarch64.whl

  3. 验证是否安装成功。

    python3 -c "import torch;import torch_npu; a = torch.randn(3, 4).npu(); print(a + a);"

    显示如下回显证明PyTorch框架与插件安装成功。