安装部署
ATB(Ascend Transformer Boost)加速库集成在CANN神经网络加速库NNAL包中,请参考《CANN 快速安装》安装昇腾NPU驱动和CANN软件(包含Toolkit、ops和NNAL包),并配置环境变量。
运行加速库前,需确保已配置进程级环境变量脚本“set_env.sh”,用户进程结束后自动失效,具体请参考环境变量参考。以非root用户安装后的默认路径为例,命令如下:
1 | source ${HOME}/Ascend/nnal/atb/set_env.sh |
需注意,NNAL加速库运行时有如下要求:
- 运行NNAL加速库时,glibc版本需大于等于2.17,执行ldd --version可以查询glibc版本(主流Linux系统均满足glibc版本要求,若不满足要求,建议通过重装新版本的系统解决,不推荐直接升级glibc,直接升级glibc可能导致系统崩溃)。
- torch_atb插件运行时依赖PyTorch和torch_npu,请参考《Ascend Extension for PyTorch 软件安装指南》安装表1所示软件,同时,torch_atb插件运行前需已安装Kernels算子包,以适配torch_npu业务运行。