安装前必读

为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力,昇腾开发PyTorch Ascend Adapter插件(torch_npu)用于适配PyTorch框架,本章节指导用户在昇腾环境安装PyTorch框架torch_npu插件

若用户仅进行离线推理,请跳过此章节。

前提条件

版本配套关系

表1 PyTorch版本配套关系

CANN版本

PyTorch版本

PyTorch Ascend Adapter插件版本

PyTorch Ascend Adapter插件代码分支名称

PyTorch Ascend Adapter插件安装包版本

Python版本

AscendHub镜像版本/名称

7.0.0

PyTorch1.11.0

5.0.0

v1.11.0-5.0.0

1.11.0.post8

Python3.7.x(3.7.5及以上)、Python3.8.x、Python3.9.x、Python3.10.x

-

PyTorch2.0.1

v2.0.1-5.0.0

2.0.1.post1

Python3.8.x、Python3.9.x、Python3.10.x

-

PyTorch2.1.0

v2.1.0-5.0.0

2.1.0

Python3.8.x、Python3.9.x、Python3.10.x

-

安装步骤

安全提示:建议使用非管理员账户安装运行torch_npu,且建议对安装程序的目录文件做好权限管控,建议文件夹权限设置为750,文件权限设置为 640。可以通过设置umask控制安装后文件的权限,如设置umask为0027。更多安全相关内容请参考安全说明

在昇腾环境安装PyTorch步骤如下:

  1. 安装PyTorch框架。
  2. 安装torch_npu插件:可以直接下载whl包快速安装也可以通过源码编译安装。
  3. (可选)编译libtorch_npu:需要进行libtorch推理测试时执行。
  4. (可选)安装APEX模块:混合精度训练时安装。