安装部署
加速库包的安装部署请参考《CANN 软件安装指南》的“安装CANN”章节;使用加速库时,开发态支持部署Toolkit包和NNAL包,运行态支持单独部署NNAE和NNAL包,不支持单独部署NNRT和NNAL包。运行加速库前,需确保进程级环境变量设置脚本“set_env.sh”按照要求进行配置,具体操作请参考安装NNAL神经网络加速库(可选),用户进程结束后自动失效。具体请参考环境变量参考。
需注意,NNAL加速库运行时有如下要求:
- 运行NNAL加速库时,glibc版本需大于等于2.17,执行ldd --version可以查询glibc版本(主流Linux系统均满足glibc版本要求,若不满足要求,建议通过重装新版本的系统解决,不推荐直接升级glibc,直接升级glibc可能导致系统崩溃)。
- torch_atb插件运行时依赖PyTorch和torch_npu 2.1.0,请参考《Ascend Extension for PyTorch 软件安装指南》安装表1所示软件,同时,torch_atb插件运行前需已安装Kernels算子包,以适配torch_npu业务运行。