安装PyTorch

安装前请参考表1完成相应配套版本CANN软件的安装。若用户需要详细了解CANN软件和其安装流程,可从安装须知章节开始了解手册内容。若用户仅进行离线推理,请跳过此章节。

昇腾开发PyTorch Adapter插件用于适配PyTorch框架,为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力,本章节指导用户安装PyTorch框架和PyTorch Adapter插件。

对应分支代码包下载

PyTorch配套的Python版本是:Python3.7.x(3.7.5~3.7.11)、Python3.8.x(3.8.0~3.8.11)、Python3.9.x(3.9.0~3.9.2)。

用户可以选择以下方式安装PyTorch:

表1 Ascend配套软件

AscendPyTorch版本

CANN版本

支持PyTorch版本

AscendHub镜像版本/名称

3.0.rc3

CANN 6.0.RC1

1.5.0.post7

22.0.RC3/pytorch-modelzoo

1.8.1.rc3

22.0.RC3-1.8.1/pytorch-modelzoo

1.11.0.rc1(beta)

-

3.0.rc2

CANN 5.1.RC2

1.5.0.post6

22.0.RC2/pytorch-modelzoo

1.8.1.rc2

22.0.RC2-1.8.1/pytorch-modelzoo

3.0.rc1

CANN 5.1.RC1

1.5.0.post5

22.0.RC1/pytorch-modelzoo

1.8.1.rc1

-

2.0.4

CANN 5.0.4

1.5.0.post4

21.0.4/pytorch-modelzoo

2.0.3

CANN 5.0.3

1.5.0.post3

21.0.3/pytorch-modelzoo

2.0.2

CANN 5.0.2

1.5.0.post2

21.0.2/pytorch-modelzoo

安装PyTorch环境依赖

执行如下命令安装。如果使用非root用户安装,需要在命令后加--user,例如:pip3 install pyyaml --user,pip3 install wheel --user
pip3 install pyyaml
pip3 install wheel

安装APEX混合精度模块

混合精度训练是在训练时混合使用单精度(float32)与半精度(float16)数据类型,将两者结合在一起,并使用相同的超参数实现了与float32几乎相同的精度。在迁移完成、训练开始之前,基于NPU处理器的架构特性,用户需要开启混合精度,可以提升模型的性能。APEX混合精度模块是一个集优化性能、精度收敛于一身的综合优化库,可以提供不同场景下的混合精度训练支持。APEX模块的使用介绍可参考PyTorch 网络模型迁移和训练指南中的“混合精度说明“章节。

请参考相关README文档使用编译安装APEX模块。