准备软件包 软件包配套关系MindIE与CANN版本必须配套使用,其版本配套关系如表1所示。 表1 版本配套列表MindIE版本 配套CANN版本 2.0.RC1 8.1.RC1 软件包下载软件安装前,请参考表2获取所需软件包和对应的数字签名文件,各软件包版本号需要保持一致。 下载本软件即表示您同意华为企业业务最终用户许可协议(EULA)的条款和条件。 表2 软件包清单依赖 软件包 软件说明 获取链接 MindIE软件包 Ascend-mindie_<version>_linux-<arch>.run 推理引擎软件包,主要用于用户开发基于MindIE的应用。 获取链接 CANN Ascend-cann-toolkit_<version>_linux-<arch>.run Toolkit开发套件包。 Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run Kernels算子包。 Ascend-cann-nnal_<version>_linux-<arch>.run NNAL神经网络加速库。 ATB Models Ascend-mindie-atb-models_<version>_linux-<arch>_pyxxx_torchx.x.x-<abi>.tar.gz 模型库安装包。 使用MindIE Service和MindIE LLM组件时,需要安装。 Ascend Extension for PyTorch torch_npu-<torch_version>.post<post_id>-cpxxx-cpxxx-manylinux_<arch>.whl torch_npu插件whl包。 获取链接 说明: 在Pytorch栏单击对应版本后方下载按钮,跳转至Pytorch的gitee仓发布页,然后在页面下方获取对应版本的torch_npu。 apex-<apex_version>_ascend-cpxxx-cpxxx-<arch>.whl Apex模块的whl包。 请参见《Ascend Extension for PyTorch 软件安装指南》中的“安装APEX模块”章节,根据Python3.10版本自行编译。 torch-<torch_version>+cpu-cpxxx-cpxxx-linux_<arch>.whl PyTorch框架whl包。 说明: 推荐使用2.1.0版本。 请从《Ascend Extension for PyTorch 软件安装指南》中的“安装PyTorch”章节获取。 注: <version>、<torch_version>和<apex_version>表示软件版本号<arch>表示CPU架构<chip_type>表示处理器类型<abi>表示ABI版本 软件数字签名验证为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。 请单击PGP数字签名工具包获取工具包,将工具包解压后,请参考文件夹中的《OpenPGP签名验证指南》,对下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,访问“支持与服务在论坛”求助或提交技术工单。 父主题: 环境准备