昇腾社区首页
中文
注册

--enable_single_stream

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

Atlas 200/300/500 推理产品

x

功能说明

静态shape场景下,是否使能模型推理顺序单流串行执行。

其中,流(Stream)用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。

关联参数

无。

参数取值

参数值:

  • true:表示使能,模型推理顺序单流串行执行。
  • false:(默认值)表示关闭,模型推理时多流并行执行。

参数值约束:

模型中存在Cmo算子和如下控制类算子时,不能使用单Stream特性,只能使用默认值false。

  • Merge
  • Switch
  • Enter
  • RefEnter

推荐配置及收益

无。

示例

--enable_single_stream=true

使用约束

无。