--enable_single_stream
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
Atlas A3 训练系列产品 /Atlas A3 推理系列产品 :支持Atlas A2 训练系列产品 /Atlas A2 推理系列产品 :支持Atlas 200I/500 A2 推理产品 :不支持Atlas 推理系列产品 :支持Atlas 训练系列产品 :支持
功能说明
静态shape场景下,是否使能模型推理顺序单流串行执行。
其中,流(Stream)用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。
关联参数
无。
参数取值
参数值:
- true:表示使能,模型推理顺序单流串行执行。
- false:(默认值)表示关闭,模型推理时多流并行执行。
参数值约束:
模型中存在Cmo算子和如下控制类算子时,不能使用单Stream特性,只能使用默认值false。
- Merge
- Switch
- Enter
- RefEnter
推荐配置及收益
无。
示例
--enable_single_stream=true
使用约束
无。
父主题: 模型调优选项