昇腾社区首页
中文
注册

准备软件包

软件包配套关系

MindIE与CANN版本必须配套使用,其版本配套关系如表1所示。

表1 版本配套列表

MindIE版本

配套CANN版本

2.0.RC1

8.1.RC1

软件包下载

软件安装前,请参考表2获取所需软件包和对应的数字签名文件,各软件包版本号需要保持一致。

下载本软件即表示您同意华为企业业务最终用户许可协议(EULA)的条款和条件。

表2 软件包清单

依赖

软件包

软件说明

获取链接

MindIE软件包

Ascend-mindie_<version>_linux-<arch>.run

推理引擎软件包,主要用于用户开发基于MindIE的应用。

获取链接

CANN

Ascend-cann-toolkit_<version>_linux-<arch>.run

Toolkit开发套件包。

Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run

Kernels算子包。

Ascend-cann-nnal_<version>_linux-<arch>.run

NNAL神经网络加速库。

ATB Models

Ascend-mindie-atb-models_<version>_linux-<arch>_pyxxx_torchx.x.x-<abi>.tar.gz

模型库安装包。

使用MindIE ServiceMindIE LLM组件时,需要安装。

Ascend Extension for PyTorch

torch_npu-<torch_version>.post<post_id>-cpxxx-cpxxx-manylinux_<arch>.whl

torch_npu插件whl包。

获取链接

说明:

在Pytorch栏单击对应版本后方下载按钮,跳转至Pytorch的gitee仓发布页,然后在页面下方获取对应版本的torch_npu。

apex-<apex_version>_ascend-cpxxx-cpxxx-<arch>.whl

Apex模块的whl包。

请参见《Ascend Extension for PyTorch 软件安装指南》中的“安装APEX模块”章节,根据Python3.10版本自行编译。

torch-<torch_version>+cpu-cpxxx-cpxxx-linux_<arch>.whl

PyTorch框架whl包。

说明:

推荐使用2.1.0版本。

请从《Ascend Extension for PyTorch 软件安装指南》中的“安装PyTorch”章节获取。

注:

  • <version><torch_version>和<apex_version>表示软件版本号
  • <arch>表示CPU架构
  • <chip_type>表示处理器类型
  • <abi>表示ABI版本

软件数字签名验证

为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。

请单击PGP数字签名工具包获取工具包,将工具包解压后,请参考文件夹中的《OpenPGP签名验证指南》,对下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,访问“支持与服务在论坛”求助或提交技术工单。