昇腾社区首页
中文
注册
开发者
下载

准备软件包

MindIE、CANN与Ascend Extension for PyTorch版本必须配套使用,其版本配套关系如表1所示。

表1 版本配套列表

MindIE版本

CANN版本

Ascend Extension for PyTorch

2.2.RC1

8.3.RC2

7.2.0

镜像安装方式

MindIE镜像获取以及安装详情请参见方式一:镜像安装方式

物理机/容器安装方式

下载本软件即表示您同意华为企业业务最终用户许可协议(EULA)的条款和条件。物理机和容器两种安装方式详情请参见方式二:物理机安装方式方式三:容器安装方式

表2 软件包清单

软件类型

软件包名称

软件说明

获取链接

MindIE

Ascend-mindie_<version>_linux-<arch>_<abi>.run

  • Ascend-mindie_<version>_linux-<arch>_abi0.run配套的PyTorch框架版本为2.1.0。
  • Ascend-mindie_<version>_linux-<arch>_abi1.run配套的PyTorch框架版本为2.6.0。

推理引擎软件包,主要用于用户开发基于MindIE的应用。

获取链接

CANN

Ascend-cann-toolkit_<version>_linux-<arch>.run

CANN开发套件包(Toolkit)。

Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run

CANN二进制算子包(Kernels)。

Ascend-cann-nnal_<version>_linux-<arch>.run

CANN神经网络加速库(NNAL)。

ATB Models

Ascend-mindie-atb-models_<version>_linux-<arch>_pyxxx_torchx.x.x-<abi>.tar.gz

模型库安装包。

使用MindIE MotorMindIE LLM组件时,需要安装。

Ascend Extension for PyTorch

torch_npu-<torch_version>.post<post_id>-cpxxx-cpxxx-manylinux_<arch>.whl

torch_npu插件whl包。

获取链接

说明:

在PyTorch栏单击对应版本后方“获取源码”按钮,跳转至PyTorch的gitcode仓库发布页,然后在页面下方获取对应版本的torch_npu。

apex-<apex_version>_ascend-cpxxx-cpxxx-<arch>.whl

APEX模块的whl包。

请参见《Ascend Extension for PyTorch 软件安装指南》中的“安装APEX模块”章节,根据Python3.10版本自行编译。

torch-<torch_version>+cpu-cpxxx-cpxxx-linux_<arch>.whl

PyTorch框架whl包。

说明:

推荐使用2.1.0版本。

请从《Ascend Extension for PyTorch 软件安装指南》中的“安装PyTorch”章节获取。

注:

  • <version><torch_version>和<apex_version>表示软件版本号
  • <arch>表示CPU架构
  • <chip_type>表示处理器类型
  • <abi>表示ABI版本

为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。

请单击PGP数字签名工具包获取工具包,将工具包解压后,请参考文件夹中的《OpenPGP签名验证指南》,对下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,访问支持与服务在论坛求助或提交技术工单。