安装部署
加速库包的安装部署请参考《CANN 软件安装指南》的“安装CANN”章节。
- 使用加速库时:
- 开发态支持部署Toolkit包和NNAL包。
- 运行态支持单独部署NNAE和NNAL包。
- 不支持单独部署NNRT和NNAL包。
- 运行加速库前:
- 需确保已配置进程级环境变量脚本“set_env.sh”,用户进程结束后自动失效,具体请参考环境变量参考。以非root用户安装后的默认路径为例,命令如下:
1source ${HOME}/Ascend/nnal/atb/set_env.sh
- 需确保已配置进程级环境变量脚本“set_env.sh”,用户进程结束后自动失效,具体请参考环境变量参考。以非root用户安装后的默认路径为例,命令如下:
需注意,NNAL加速库运行时有如下要求:
- 运行NNAL加速库时,glibc版本需大于等于2.17,执行ldd --version可以查询glibc版本(主流Linux系统均满足glibc版本要求,若不满足要求,建议通过重装新版本的系统解决,不推荐直接升级glibc,直接升级glibc可能导致系统崩溃)。
- torch_atb插件运行时依赖PyTorch和torch_npu,请参考《Ascend Extension for PyTorch 软件安装指南》安装表1所示软件,同时,torch_atb插件运行前需已安装Kernels算子包,以适配torch_npu业务运行。