ENABLE_DYNAMIC_SHAPE_MULTI_STREAM
功能描述
计算图执行时,开启多流并发执行功能在一定场景下可提升网络性能。
当前多流并发执行功能默认关闭,动态shape图模式场景下,若开发者想开启多流并发执行功能,可通过此环境变量开启。
- 0:关闭多流并发执行功能,默认值。
- 1:开启多流并发执行功能。
配置示例
多流并发执行功能默认关闭,如果需要开启,请设置此环境变量的值为“1”。
export ENABLE_DYNAMIC_SHAPE_MULTI_STREAM=1
是否必选
否
使用约束
无
支持的型号
Atlas 200/300/500 推理产品
Atlas 训练系列产品
Atlas 推理系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas 200I/500 A2推理产品
父主题: 图执行