昇腾社区首页
中文
注册

aclmdlRIExecuteAsync

本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

Atlas 200/300/500 推理产品

x

功能说明

执行模型推理。本接口需与其它接口配合使用,以便捕获Stream上下发的任务,暂存在内部创建的模型中,用于后续的任务执行,以此减少Host侧的任务下发开销,配合使用流程请参见aclmdlRICaptureBegin接口处的说明。

本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。

函数原型

aclError aclmdlRIExecuteAsync(aclmdlRI modelRI, aclrtStream stream)

参数说明

参数名

输入/输出

说明

modelRI

输入

模型的运行实例。

调用aclmdlRICaptureBegin接口捕获Stream上下发的任务后,可通过aclmdlRICaptureGetInfo接口获取模型的运行实例,再传入本接口。

stream

输入

指定Stream。

返回值说明

返回0表示成功,返回其他值表示失败,请参见aclError