昇腾社区首页
中文
注册

aclmdlRIExecuteAsync

产品支持情况

产品

是否支持

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

Atlas 200/300/500 推理产品

x

功能说明

执行模型推理。本接口需与其它接口配合使用,以便捕获Stream上下发的任务,暂存在内部创建的模型,用于后续的任务执行,以此减少Host侧的任务下发开销,配合使用流程请参见aclmdlRICaptureBegin接口处的说明。

本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。

函数原型

aclError aclmdlRIExecuteAsync(aclmdlRI modelRI, aclrtStream stream)

参数说明

参数名

输入/输出

说明

modelRI

输入

模型的运行时实例。

调用aclmdlRICaptureBegin接口捕获Stream上下发任务后,可通过aclmdlRICaptureGetInfo接口获取模型的运行时实例,再传入本接口。

stream

输入

指定Stream。

返回值说明

返回0表示成功,返回其他值表示失败,请参见aclError