环境准备
# 请依据实际在下列场景中选择一个进行在线推理依赖包安装路径的环境变量设置。 # 场景一:昇腾设备安装部署开发套件包Ascend-cann-toolkit(此时开发环境可进行推理任务)。 # 以root用户安装toolkit包 . /usr/local/Ascend/ascend-toolkit/set_env.sh # 以非root用户安装toolkit包 . ${HOME}/Ascend/ascend-toolkit/set_env.sh # 场景二:昇腾设备安装部署软件包Ascend-cann-nnae。 # 以root用户安装nnae包 . /usr/local/Ascend/nnae/set_env.sh # 以非root用户安装nnae包 . ${HOME}/Ascend/nnae/set_env.sh # tfplugin包依赖。 # 以root用户安装tfplugin包 . /usr/local/Ascend/tfplugin/set_env.sh # 以非root用户安装tfplugin包 . ${HOME}/Ascend/tfplugin/set_env.sh # 若运行环境中存在多个python3版本时,需要在环境变量中配置python的安装路径。如下配置以安装python3.7.5为例,可根据实际修改。 export PATH=/usr/local/python3.7.5/bin:$PATH export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:$LD_LIBRARY_PATH export JOB_ID=10087 # 当前脚本所在路径,例如: export PYTHONPATH="$PYTHONPATH:/root/models"

上述仅列出推理进程启动必配的环境变量,更多介绍请参考环境变量参考。若所在系统环境需要升级gcc(例如Centos、Debian和BClinux系统),则“LD_LIBRARY_PATH”配置项此处动态库查找路径需要添加“${install_path}/lib64”,其中“{install_path}”为gcc升级安装路径。请参见安装7.3.0版本gcc。