环境变量参考
本节描述MindIE RT安装完成后,提供进程级环境变量设置脚本“set_env.sh”,以自动完成环境变量设置,用户进程结束后自动失效。
MindIE RT环境变量说明
环境变量名 |
说明 |
取值范围 |
缺省值 |
---|---|---|---|
ASCENDIE_HOME |
MindIE RT软件包安装后文件存储路径。 |
- |
${ASECNDIE_HOME} |
LD_LIBRARY_PATH |
动态库的查找路径。 |
- |
${LD_LIBRARY_PATH} |
ASCEND_CUSTOM_OPP_PATH |
推理引擎自定义算子包安装路径。 |
- |
${ASCEND_CUSTOM_OPP_PATH} |
HOME |
当前用户目录,默认运行日志保存在${HOME}/ascend/log/mindie-rt/ |
- |
${HOME} |
ASCEND_VISIBLE_DEVICES |
该环境变量已经废弃。指定当前进程所用的昇腾AI处理器的逻辑ID。参考配置方式:"0,1,2"或"0,2-4",设备ID间通过“,”分割。当和torch_npu混用场景下建议unset此环境变量。 |
取值范围[0,N-1],默认为环境中所有可用AI处理器。其中N为当前物理机、虚拟机和容器内的设备总数。 |
- |
TUNE_BANK_PATH |
指定AOE自动调优后自定义知识库的存储路径。 |
- |
${TUNE_BANK_PATH} |
PROFILE_MODE |
是否开启Profiling功能。 |
|
false |
ASCENDIE_FASTER_MODE |
该变量已经弃用。原本该环境变量是针对gelu和sigmoid算子开启高性能模式,改为使用${MINDIE_OP_PRECISION_MODE}控制部分算子(包括gelu和sigmoid算子)开启高性能模式。 |
- |
- |
RANK_TABLE_FILE |
ranktable文件路径,当需要使用多卡推理时使用。 |
- |
- |
RANK_START_ID |
当需要多机推理时,设置当前机器的起始RANK,默认是0。 |
[0-1024] |
0 |
通过该环境变量配置混合精度黑白灰名单,具体使用方法请参见《图开发接口参考》的“Ascend Graph API > 数据类型 > aclgrphBuildModel支持的配置参数”章节中的MODIFY_MIXLIST环境变量。配置该环境变量为混合精度黑白名单文件路径。混合精度黑白名单文件权限不能超过750。 |
- |
- |
|
MINDIE_OP_PRECISION_MODE |
通过该环境变量配置指定算子内部处理时的精度模式,具体说明请参见《图开发接口参考》的“Ascend Graph API > 数据类型 > aclgrphBuildModel支持的配置参数”章节中的OP_PRECISION_MODE环境变量。通过配置该环境变量为自定义的精度模式配置文件路径,为不同的算子设置不同的精度模式。自定义精度模式配置文件权限不能超过750。 |
- |
- |