ENABLE_DYNAMIC_SHAPE_MULTI_STREAM

功能描述

计算图执行时，开启多流并发执行功能在一定场景下可提升网络性能。

当前多流并发执行功能默认关闭，动态shape图模式场景下，若开发者想开启多流并发执行功能，可通过此环境变量开启。
  • 0：关闭多流并发执行功能，默认值。
  • 1：开启多流并发执行功能。

配置示例

多流并发执行功能默认关闭，如果需要开启，请设置此环境变量的值为“1”。

export ENABLE_DYNAMIC_SHAPE_MULTI_STREAM=1

是否必选

否

使用约束

无

支持的型号

Atlas 200/300/500 推理产品

Atlas 训练系列产品

Atlas 推理系列产品

Atlas A2训练系列产品/Atlas 800I A2推理产品

Atlas 200I/500 A2推理产品

父主题： 图执行