软件环境

MindIE安装前,需要检查以下软件环境支持。

操作系统

表1 操作系统支持列表

硬件

操作系统

Atlas 800I A2推理产品

Arm:

Ubuntu 22.04

Atlas 300I Duo 推理卡+Atlas 800 推理服务器(型号:3000)

Arm:

Ubuntu 20.04

昇腾软件

表2 昇腾软件依赖

依赖包

软件包

软件说明

获取链接

驱动和固件

Ascend-hdk-{soc_version}-npu-driver_{version}_linux-{arch}.run

昇腾NPU驱动。

请参见Atlas A2 中心推理和训练硬件 24.1.RC1 NPU驱动和固件安装指南

Ascend-hdk-{soc_version}-npu-firmware_{version}.run

昇腾NPU固件。

CANN

Ascend-cann-toolkit_{version}_linux-{arch}.run

开发套件包。

获取链接

Ascend-cann-kernels-{soc_version}_{version}_linux.run

二进制算子包。

Ascend Extension for PyTorch

torch-{torch_version}+cpu-cp{python_version}-cp{python_version}-linux_{arch}.whl

PyTorch框架whl包。

说明:

当前只支持1.11.0和2.1.0版本。

获取链接

torch_npu-{torch_version}.post{post_id}-cp{python_version}-cp{python_version}-linux_{arch}.whl

torch_npu插件whl包。

apex-{apex_version}_ascend-cp{python_version}-cp{python_version}-{arch}.whl

Apex模块的whl包。

由于Pytorch1.11官方版本存在安全漏洞,因此强烈不建议使用Pytorch1.11官方版本,若必须使用建议先修复相关漏洞,避免引入安全风险。

其他软件

软件

版本要求

安装方式

glibc

>=2.34

需要用户自行安装。

gcc、g++

>=11.4.0

Python

3.10

transformers

>=4.30.2

通过MindIE run包自动安装。

gevent

>=22.10.2

python-rapidjson

>=1.6

geventhttpclient

2.0.11

urllib3

>=2.1.0

greenlet

3.0.3

zope.event

5.0

zope.interface

6.1

pandas

2.1.4

prettytable

3.5.0

tqdm

4.66.1

numpy

1.26.3

jsonschema

4.21.1

jsonlines

4.0.0

thefuzz

0.22.1

pyarrow

>=15.0.0

pydantic

>=2.6.3

对于第三方的开源软件,如果该版本中存在漏洞,需要及时根据开源版本中的对应说明进行修复和更新。