---
title: 环境变量参考
description: "加速库安装完成后，提供进程级环境变量设置脚本“set_env.sh”，以自动完成环境变量设置，用户进程结束后自动失效。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0032.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_0032.html
indexId: afb5dbb8aa2d57864f47d5e03168fae2c5c854835a98de2e91b29f9e54e84a6f61
---
# 环境变量参考

加速库安装完成后，提供进程级环境变量设置脚本“set_env.sh”，以自动完成环境变量设置，用户进程结束后自动失效。

#### Transformer加速库环境变量说明

- 基础环境变量| 环境变量名 | 说明 |
| --- | --- |
| ATB\_HOME\_PATH | 软件包安装后文件存储路径。 |
| LD\_LIBRARY\_PATH | Linux系统中加载动态库时的搜寻路径列表。 |
| PATH | 将ATB软件包bin目录的路径添加到系统PATH环境变量中，推荐使用默认路径。 |


- 加速库相关环境变量| 环境变量名 | 默认值 | 功能说明 | 配置说明 | 变更声明 |
| --- | --- | --- | --- | --- |
| ATB\_STREAM\_SYNC\_EVERY\_KERNEL\_ENABLE | 0 | 用于问题定位，确定报错所在的kernel。当变量配置为1时，每个Kernel的Execute结束时就做流同步。 | 0：关闭同步。 1：开启同步。 | \- |
| ATB\_STREAM\_SYNC\_EVERY\_RUNNER\_ENABLE | 0 | 用于问题定位，确定报错所在的runner。当变量配置为1时，每个Runner的Execute时就做流同步。 | 0：关闭同步。 1：开启同步。 | \- |
| ATB\_STREAM\_SYNC\_EVERY\_OPERATION\_ENABLE | 0 | 用于问题定位，确定报错所在的Operation。当变量配置为1时，每个Operation的Execute时就做同步。 | 0：关闭同步。 1：开启同步。 | \- |
| ATB\_OPSRUNNER\_KERNEL\_CACHE\_LOCAL\_COUNT | 1 | 本地kernelCache的槽位数。 槽位数增加时：增加cache命中率，但降低检索效率。 槽位数减少时：提高检索效率，但降低cache命中率。 | 支持范围：1~1024。 | 建议直接使用默认值，修改默认值使用会影响性能和精度。后续版本会删除此环境变量，请谨慎使用。 后续将日落，请谨慎使用。 |
| ATB\_OPSRUNNER\_KERNEL\_CACHE\_GLOBAL\_COUNT | 5 | 全局kernelCache的槽位数。 槽位数增加：增加cache命中率，但降低检索效率。 槽位数减少：提高检索效率，但降低cache命中率。 | 支持范围：1~1024。 | 建议直接使用默认值，修改默认值使用会影响性能和精度。后续版本会删除此环境变量，请谨慎使用。 后续将日落，请谨慎使用。 |
| ATB\_WORKSPACE\_MEM\_ALLOC\_ALG\_TYPE | 1 | workspace内存分配算法选择。根据环境变量配置不同，ATB会选择不同的算法去计算workspace大小与workspace分配，用户可通过选择不同算法自行测试workspace分配情况。 | 0：暴力算法。 1：block分配算法。 2：有序heap算法。 3：引入block合并（SOMAS算法退化版）。 | 建议直接使用默认值，修改默认值使用会影响性能和精度。后续版本会删除此环境变量，请谨慎使用。 后续将日落，请谨慎使用。 |
| ATB\_COMPARE\_TILING\_EVERY\_KERNEL | 0 | 每个Kernel运行后，比较运行前和后的NPU上tiling内容是否变化，一般用于检查是否发生tiling内存踩踏。 | 0：不开启。 1：开启。 | \- |
| ATB\_SHARE\_MEMORY\_NAME\_SUFFIX | "" | 共享内存命名后缀，多用户同时使用通信算子时，需通过设置该值进行共享内存的区分。 | 可配置为任意字符串。 | 建议直接使用默认值，修改默认值使用会影响性能和精度。后续版本会删除此环境变量，请谨慎使用。 |
| ATB\_MATMUL\_SHUFFLE\_K\_ENABLE | 1 | Shuffle\-K使能，矩阵乘的结果矩阵不同位置计算时的累加序一致/不一致。会影响matmul算子内部累加序。 | 0：不使能，累加序一致。 1：使能，累加序不一致。 | \- |
| LCCL\_PARALLEL | 0 | 该功能和确定性计算无法同时开启，"LCCL\_DETERMINISTIC"需要为0或者false。 多通信域并行功能使用结束后，LCCL\_PARALLEL需要设置回false，否则会导致基础场景性能下降。不支持在运行过程中修改。 该环境变量只支持allReduce多线程并发场景使用，仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 8卡且数据量小于100MB。 | true或者1开启。0或者false关闭。 | 后续将随LCCL功能一起日落，请谨慎使用。 |
| LCAL\_COMM\_ID | \- | 用于初始化socket绑定和连接的ip和端口，同一个device并发创建多个通信域时，需要通过这个环境变量绑定连接不同的端口。 | 格式为"ip:port"，其中ip指定要使用的IP地址（rank0所在服务器ip），port指定要使用的端口号。 ip限制为本机ip 127.0.0.1；端口限制为 10067~10067+commDomain，commDomain的配置请参考参数列表。 注：当前版本不支持多机通信，ip字段未被使用。 | 后续将随LCCL功能一起日落，请谨慎使用。 |
| ASCEND\_LAUNCH\_BLOCKING | 0 | PyTorch训练或在线推理场景，可通过此环境变量控制算子执行时是否启动同步模式。 由于NPU模型训练时默认算子异步执行，导致算子执行过程中出现报错时，打印的报错堆栈信息并不是实际的调用栈信息。当设置为“1”时，强制算子采用同步模式运行，这样能够打印正确的调用栈信息，从而更容易地调试和定位代码中的问题。设置为“0”时则会采用异步方式执行。 | 0：异步模式。 1：同步模式。 仅在使用torch\_atb的时候有用。 设置为“1”时 强制算子采用同步模式运行会导致性能下降。 task\_queue算子队列关闭，TASK\_QUEUE\_ENABLE设置不生效。 仅支持 Atlas 训练系列产品 和 Atlas A2 训练系列产品 。 | \- |
| TASK\_QUEUE\_ENABLE | 1 | 此环境变量用于控制开启task\_queue算子下发队列优化的等级。 配置为0时：关闭task\_queue算子下发队列优化。 配置为1或未配置时：开启task\_queue算子下发队列Level 1优化。 Level 1优化：使能task\_queue算子下发队列优化，将算子下发任务分为两段，一部分放在新增的二级流水上，一、二级流水通过队列传递任务，相互并行，通过部分掩盖减少整体的下发耗时，提升端到端性能。 配置为2时：开启task\_queue算子下发队列Level 2优化。 Level 2优化：包含Level 1的优化并增加了一、二级流水负载均衡和二级流水唤醒加速优化。仅在二进制场景生效，建议配置值为Level 2优化。 | 0：关闭。 1：开启，下发队列Level 1优化。 2：开启，下发队列Level 2优化。 仅在使用torch\_atb的时候有用。 ASCEND\_LAUNCH\_BLOCKING设置为“1”时，task\_queue算子队列关闭，TASK\_QUEUE\_ENABLE设置不生效。 仅支持 Atlas 训练系列产品 和 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 。 | \- |


- 加速库日志相关环境变量请参考可维可测能力  环境变量
。
- 算子库相关环境变量| 环境变量名 | 默认值 | 功能说明 | 配置说明 | 变更声明 |
| --- | --- | --- | --- | --- |
| LCCL\_DETERMINISTIC | 0 | 算子确定性计算开关，开启后所有支持开关控制的算子变为确定性计算，不支持开关控制的算子不受影响。 目前该开关仅涉及LCCL确定性AllReduce（保序加）是否开启（有影响的Operation包括AllReduceOperation、ReduceScatterOperation和LinearParallelOperation）。需注意，开启功能仅在单机场景生效，即rankSize<=单机卡数。 开启后会有如下影响： 影响部分通信算子性能。 影响lccl通信算子的累加序。 | 0：关闭。 1：开启。 | 后续将随LCCL功能一起日落，请谨慎使用。 |
| ASDOPS\_QUANT\_MIN\_NEG\_127 | 0 | 控制int8量化输出的最小值。 不建议用户修改。 | 0：最小值为\-128。 1：最小值为\-127。 | 建议直接使用默认值，修改默认值使用会影响性能和精度。后续版本会删除此环境变量，请谨慎使用。 |