环境变量列表

本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。

环境变量支持通过命令、接口、配置等方式实现，包括export命令、putenv/getenv/setenv/unsetenv/clearenv函数、os.environ、os.getenv等。建议用户在应用进程拉起前设置环境变量，否则可能引起环境变量访问冲突，导致程序异常。
本手册不包含Ascend Extension for PyTorch的环境变量，关于Ascend Extension for PyTorch环境变量的详细介绍请参见《Ascend Extension for PyTorch 环境变量参考》。

安装配置相关

环境变量	简介
ASCEND_CACHE_PATH	若开发者期望编译运行过程中产生的文件落盘到归一路径，可通过此环境变量设置共享文件的存储路径，各组件编译运行过程中产生的可共享文件会存储到此环境变量定义的路径中。
ASCEND_WORK_PATH	若开发者期望编译运行过程中产生的文件落盘到归一路径，可通过此环境变量设置单机独享文件的存储路径，各组件编译运行过程中产生的单机独享文件会存储到此环境变量定义的路径中。
ASCEND_CUSTOM_OPP_PATH	用户自定义算子包安装路径。开发者编译生成的自定义算子包需要安装到指定路径下时，需要配置该路径。

图编译

环境变量	简介
DUMP_GE_GRAPH	把整个流程中各个阶段的图描述信息打印到文件中，此环境变量控制dump图的内容多少。
DUMP_GRAPH_LEVEL	把整个图编译流程中各个阶段的图描述信息打印到文件中。
DUMP_GRAPH_FORMAT	控制需要生成的dump文件类型。
DUMP_GRAPH_PATH	指定DUMP图文件的保存路径，可配置为绝对路径或脚本执行目录的相对路径。
OP_NO_REUSE_MEM	计算图在昇腾平台编译的过程中默认采用内存复用形式，在问题定位场景中，如果开发者怀疑是内存复用错误导致计算结果异常，可通过此环境变量指定为某算子单独分配内存。
ASCEND_ENGINE_PATH	单算子JSON文件转换成离线模型场景，如果希望模型转换时只使用TBE算子（不查找AI CPU算子，找不到TBE算子则报错），则需要使用该环境变量。
MAX_COMPILE_CORE_NUMBER	此环境变量用于指定图编译时可用的CPU核数。
MULTI_THREAD_COMPILE	此环境变量用于控制模型转换时是否使用单线程编译。
ENABLE_NETWORK_ANALYSIS_DEBUG	TensorFlow训练场景下，计算图编译失败时默认会终止训练流程，不会继续向Device下发剩余的图。若开发者希望图编译失败时，不终止训练流程，允许TF Adapter持续向Device下发计算图，可通过设置该环境变量实现。

算子编译

环境变量	简介
TE_PARALLEL_COMPILER	网络模型较大时，可通过配置此环境变量开启算子的并行编译功能。
ASCEND_MAX_OP_CACHE_SIZE	启用算子编译缓存功能时，可通过此环境变量限制某个AI处理器下缓存文件夹的磁盘空间的大小。
ASCEND_REMAIN_CACHE_SIZE_RATIO	启用算子编译缓存功能时，当编译缓存空间大小达到ASCEND_MAX_OP_CACHE_SIZE而需要删除旧的kernel文件时，系统需要保留缓存的空间大小比例，默认为50，单位为百分比。
IGNORE_INFER_ERROR	算子入图时，跳过算子原型交付件校验的开关。交付件包括shape推导等算子入图适配函数的实现。

资源配置

环境变量	简介
ASCEND_DEVICE_ID	指定当前进程所用的AI处理器的逻辑ID。
ASCEND_RT_VISIBLE_DEVICES	指定哪些Device对当前进程可见，支持一次指定一个或多个Device ID。通过该环境变量，可实现不修改应用程序即可调整所用Device的功能。
AUTO_USE_UC_MEMORY	控制系统是否允许算子搬移数据不经过L2 Cache的功能。
RESOURCE_CONFIG_PATH	用于设置配置异构资源描述信息文件的存储路径。

算子执行

环境变量	简介
ACLNN_CACHE_LIMIT	此环境变量用于配置aclnn API在Host侧缓存的算子信息条目个数。缓存的算子信息包含workspace大小、算子计算的执行器、Tiling信息等。

图执行

环境变量	简介
ENABLE_DYNAMIC_SHAPE_MULTI_STREAM	计算图执行时，开启多流并发执行功能在一定场景下可提升网络性能。当前多流并发执行功能默认关闭，动态shape图模式场景下，若开发者想开启多流并发执行功能，可通过此环境变量开启。
MAX_RUNTIME_CORE_NUMBER	训练与在线推理场景下，针对动态shape图模式执行的网络，可通过设置此环境变量开启图执行器（Host侧）的多线程任务调度。

TFAdapter

环境变量	简介
JOB_ID	TensorFlow训练与在线推理场景下，可通过此环境变量自定义任务ID。
ENABLE_FORCE_V2_CONTROL	TensorFlow 1.15训练场景下，如果输入是动态shape，由于tf.case/tf.cond/tf.while_loop这些API对应TensorFlow V1版本的控制流算子（例如Switch、Merge、Enter、LoopCond、NextIteration、Exit、ControlTrigger等）不支持动态shape，仅TensorFlow V2版本的控制流算子（例如If、Case、While、For、PartitionedCall等）支持动态shape，因此，如果用户的训练脚本中使用了这些API，需要将V1版本的控制流算子转换为V2版本，用于支持动态shape功能。另外，如果网络中的分支结构较多，采用V1版本的控制流算子可能导致流数超限，此时也需要将V1版本的控制流算子转换成V2版本算子解决。
ENABLE_HF32_EXECUTION	针对TensorFlow 1.15网络，是否启用HF32自动代替FP32数据类型的功能，当前版本此环境变量仅针对Conv类算子与Matmul类算子生效。
NPU_DEBUG	TensorFlow 2.6.5训练与在线推理场景下，用于开启TF Adapter的Debug级别执行日志。
NPU_DUMP_GRAPH	TensorFlow 2.6.5训练与在线推理场景下，用于开启TF Adapter图Dump功能。
NPU_ENABLE_PERF	TensorFlow 2.6.5训练与在线推理场景下，用于开启TF Adapter图耗时打印功能。
NPU_LOOP_SIZE	TensorFlow 2.6.5训练与在线推理场景下，用于设置NPU上循环下沉的次数。
STEP_NOW	TensorFlow 1.15训练场景下，若通过“experimental_accelerate_train_mode”参数或者“accelerate_train_mode”参数触发了训练加速功能，可通过此环境变量设置NPU上当前的执行步数。
TOTAL_STEP	TensorFlow 1.15训练场景下，若通过“experimental_accelerate_train_mode”参数或者“accelerate_train_mode”参数触发了训练加速功能，可通过此环境变量设置NPU上总训练步数。
LOSS_NOW	TensorFlow 1.15训练场景下，若通过“experimental_accelerate_train_mode”参数或者“accelerate_train_mode”参数触发了训练加速功能，可通过此环境变量设置NPU上当前迭代的loss值。
TARGET_LOSS	TensorFlow 1.15训练场景下，若通过“experimental_accelerate_train_mode”参数或者“accelerate_train_mode”参数触发了训练加速功能，可通过此环境变量设置NPU上的目标训练loss值。
RANK_TABLE_FILE	TensorFlow分布式训练或推理场景下，通过此环境变量指定参与集合通信的AI处理器的rank table资源配置文件，包含rank table文件路径和文件名。
RANK_ID	TensorFlow分布式训练或推理场景下，通过此环境变量指定当前进程在集合通信进程组中对应的rank标识。
RANK_SIZE	TensorFlow分布式训练或推理场景下，通过此环境变量指定当前训练进程对应的Device数量。
CM_CHIEF_IP	TensorFlow分布式训练场景下，用户可以选择不使用rank table文件，通过组合使用环境变量的方式自动生成资源信息，完成集合通信初始化。本环境变量用于配置Master节点的监听Host IP。
CM_CHIEF_PORT	本环境变量用于配置Master节点的监听端口。
CM_CHIEF_DEVICE	本环境变量用于指定Master节点中统计Server端集群信息的Device逻辑ID。
CM_WORKER_SIZE	本环境变量用于配置本次业务通信域Device的数量。
CM_WORKER_IP	本环境变量用于配置当前Device和Master节点进行信息交换时所用的网卡IP。

集合通信

环境变量	简介
功能相关
HCCL_CONNECT_TIMEOUT	分布式训练或推理场景下，用于限制不同设备之间socket建链过程的超时等待时间。不同设备进程在集合通信初始化之前由于其他因素会导致执行不同步。该环境变量控制设备间的建链超时等待时间，在该配置时间内各设备进程等待其他设备建链同步。
HCCL_EXEC_TIMEOUT	不同设备进程在分布式训练或推理过程中存在卡间执行任务不一致的场景（如仅特定进程会保存checkpoint数据），通过该环境变量可控制设备间执行时同步等待的时间，在该配置时间内各设备进程等待其他设备执行通信同步。
HCCL_ALGO	此环境变量用于配置集合通信Server间通信算法以及超节点间通信算法，支持全局配置算法类型与按算子配置算法类型两种配置方式。
HCCL_BUFFSIZE	此环境变量用于控制通信域所使用的共享数据缓存区大小。需要配置为整数，取值大于等于1，默认值为200，单位MB。
HCCL_INTRA_PCIE_ENABLE	用于配置Server内是否使用PCIe链路进行通信。
HCCL_INTRA_ROCE_ENABLE	用于配置Server内或超节点内是否使用RoCE链路进行通信。
HCCL_INTER_HCCS_DISABLE	此环境变量用于配置超节点模式组网中超节点内的通信链路类型，支持如下取值：
HCCL_OP_EXPANSION_MODE	该环境变量用于配置通信算子的展开模式。
HCCL_DETERMINISTIC	此环境变量用于配置是否开启归约类通信算子的确定性计算或保序功能，其中归约类通信算子包括AllReduce、ReduceScatter、ReduceScatterV、Reduce，归约保序是指严格的确定性计算，在确定性的基础上保证归约顺序一致。
HCCL_LOGIC_SUPERPOD_ID	针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品的超节点模式组网，若不使用rank table文件配置集群资源信息，可通过此环境变量指定当前节点运行进程所属的超节点ID，实现将一个物理超节点划分为多个逻辑超节点的功能。
性能相关
HCCL_RDMA_PCIE_DIRECT_POST_NOSTRICT	多机通信且Host操作系统小页内存页表大小非4KB的场景，当通信算子下发性能Host Bound时，开发者可设置此环境变量，通过PCIe Direct的方式提交RDMA任务，提升通信算子下发性能。
HCCL_RDMA_QPS_PER_CONNECTION	两个rank之间RDMA通信时会默认创建1个QP（Queue Pair）进行数据传输，若开发者想让两个rank之间的RDMA通信使用多个QP，可通过此环境变量实现。
HCCL_RDMA_QP_PORT_CONFIG_PATH	两个rank之间RDMA通信时会默认创建1个QP（Queue Pair）进行数据传输，若开发者想让两个rank之间的RDMA通信使用多个QP，并指定多QP通信时使用的源端口号，可通过此环境变量实现。
HCCL_MULTI_QP_THRESHOLD	rank间RDMA通信使用多QP通信的场景下，开发者可通过本环境变量设置每个QP分担数据量的最小阈值。
网络相关
HCCL_IF_IP	当通信域的创建方式为“基于root节点信息创建”时，可通过此环境变量配置HCCL初始化时Host使用的通信IP地址。此IP地址用于与root节点通信，以完成通信域的创建。
HCCL_IF_BASE_PORT	当通信域的创建方式为“基于root节点信息创建”时，可以通过该环境变量指定Host网卡起始端口号，配置后系统默认占用以该端口起始的32个端口进行集群信息收集。
HCCL_HOST_SOCKET_PORT_RANGE	当通信域的创建方式为“基于root节点信息创建”时，开发者可通过此环境变量配置HCCL在Host侧使用的通信端口。
HCCL_NPU_SOCKET_PORT_RANGE	当通信域的创建方式为“基于root节点信息创建”时，开发者可通过此环境变量配置HCCL在NPU侧使用的通信端口。
HCCL_SOCKET_IFNAME	配置HCCL初始化时Host使用的通信网卡名，HCCL将通过该网卡名获取Host IP，与root节点通信，以完成通信域的创建。
HCCL_SOCKET_FAMILY	该环境变量指定通信网卡使用的IP协议。
HCCL_RDMA_TC	用于配置RDMA网卡的traffic class。
HCCL_RDMA_SL	用于配置RDMA网卡的service level，该值需要和网卡配置的PFC优先级保持一致，若配置不一致可能导致性能劣化。
HCCL_RDMA_TIMEOUT	用于配置RDMA网卡重传超时时间的系数timeout。
HCCL_RDMA_RETRY_CNT	用于配置RDMA网卡的重传次数，需要配置为整数，取值范围为[1,7]，默认值为7。
调试相关
HCCL_DIAGNOSE_ENABLE	此环境变量用于配置集合通信是否缓存部分任务的详细信息，以便任务执行失败时，打印详细日志，用于问题定位。
HCCL_ENTRY_LOG_ENABLE	此环境变量用于控制是否实时打印通信算子的调用行为日志。
HCCL_DEBUG_CONFIG	启用此环境变量后，运行日志（即“$HOME/ascend/log/run”目录下的日志）将包含HCCL特定子模块的详细运行信息。目前支持ALG或alg（算法编排模块）、TASK或task（任务编排模块）、RESOURCE或resource（资源管理模块，包括资源的申请和释放操作）、AIV_OPS_EXC或aiv_ops_exc（AIV算子日志打印模块，包括算子执行过程中的通信内存操作和资源同步操作）四个配置项。
HCCL_DFS_CONFIG	该环境变量支持以下配置项：
可靠性相关
HCCL_OP_RETRY_ENABLE	此环境变量用于配置是否开启HCCL算子的重执行特性。HCCL算子重执行以通信域为粒度，当通信算子执行报 SDMA 或者RDMA CQE类型的错误时，HCCL会尝试重新执行此通信算子。
HCCL_OP_RETRY_PARAMS	此环境变量用于配置是否开启HCCL算子的重执行特性。HCCL算子重执行以通信域为粒度，当通信算子执行报 SDMA 或者RDMA CQE类型的错误时，HCCL会尝试重新执行此通信算子。
安全相关
HCCL_WHITELIST_DISABLE	配置在使用HCCL时是否开启通信白名单。
HCCL_WHITELIST_FILE	当通过HCCL_WHITELIST_DISABLE开启了通信白名单校验功能时，需要通过此环境变量配置指向HCCL通信白名单配置文件的路径，只有在通信白名单中的IP地址才允许进行集合通信。

AOE调优

环境变量	简介
TUNE_BANK_PATH	可通过此环境变量指定调优后自定义知识库的存储路径。
REPEAT_TUNE	是否重新发起调优，此环境变量在开启子图调优或算子调优的场景下生效。
AOE_MODE	在线推理与训练场景下，可通过此环境变量指定AOE调优模式。

AMCT模型压缩

环境变量	简介
AMCT_LOG_FILE_LEVEL	控制日志文件（PyTorch框架：amct_pytorch.log；Caffe框架：amct_caffe.log；ONNX：amct_onnx.log）的信息级别以及生成精度仿真模型时，对应量化层生成的日志文件信息级别。
AMCT_LOG_LEVEL	控制屏幕输出的信息级别。该环境变量仅适用于PyTorch框架、Caffe框架、ONNX网络模型的量化。
DUMP_AMCT_RECORD	控制是否生成权重和数据的量化因子。该环境变量仅适用于MindSpore框架的模型压缩。
AMCT_LOG_DUMP	控制训练后量化过程中日志落盘等信息的环境变量。该环境变量仅适用于调用aclgrphCalibration接口进行的量化。

性能数据采集

环境变量	简介
PROFILING_MODE	该环境变量用于控制是否开启Profiling功能。
PROFILING_OPTIONS	训练或在线推理场景下，开发者可通过PROFILING_OPTIONS环境变量配置Profiling配置选项。

日志

环境变量	简介
ASCEND_PROCESS_LOG_PATH	设置日志落盘路径。
ASCEND_SLOG_PRINT_TO_STDOUT	是否开启日志打印。开启后，日志将不会保存在log文件中，而是将产生的日志直接打印显示。
ASCEND_GLOBAL_LOG_LEVEL	设置应用类日志的日志级别及各模块日志级别，仅支持调试日志。
ASCEND_MODULE_LOG_LEVEL	设置应用类日志的各模块日志级别，仅支持调试日志。
ASCEND_GLOBAL_EVENT_ENABLE	设置应用类日志是否开启Event日志。
ASCEND_LOG_DEVICE_FLUSH_TIMEOUT	指定Device侧应用类日志回传到Host侧的延时时间。
ASCEND_HOST_LOG_FILE_NUM	Ascend EP 场景下，设置应用类日志目录（plog和device-id）下存储每个进程日志文件的数量。
ASCEND_COREDUMP_SIGNAL	设置trace处理的core dump信号量。
ASCEND_LOG_SYNC_SAVE	指定日志拥塞处理方式。
ASCEND_TRACE_RECORD_NUM	设置trace日志文件的老化规格，取值范围[10, 1000]。

故障信息收集

环境变量	简介
NPU_COLLECT_PATH	在复现问题场景下，使用该环境变量指定故障信息（包括dump图、AI Core算子异常数据、算子编译信息等）的保存路径，可配置为绝对路径或相对路径（此处是相对执行程序或命令的路径），执行用户需对该路径具有读、写、可执行权限，若路径不存在，系统会自动创建该路径中的目录。
ASCEND_DUMP_SCENE	在复现问题场景时，使用该环境变量开启异常算子Dump，导出异常算子的输入输出数据、workspace信息和Tiling信息。
ASCEND_DUMP_PATH	指定异常算子Dump信息的存储路径，可配置为绝对路径或执行程序的相对路径。指定的路径支持大小写字母（a-z，A-Z）、数字（0-9）、下划线（_）、中划线（-）、句点（.）、中文字符，执行用户需具有读、写、执行权限，若路径不存在，系统会自动创建该路径中的目录。不指定路径时，异常算子Dump信息默认存放在应用程序的当前执行目录。

后续版本废弃环境变量

环境变量	简介
GE_USE_STATIC_MEMORY	此环境变量用于配置网络运行时使用的内存分配方式。
ENABLE_ACLNN	图编译时，通过设置该环境变量，可以决定在图执行时是否调用算子注册的host执行函数来实现host执行逻辑及kernel下发。