aclmdlRIExecuteAsync
产品支持情况
产品 |
是否支持 |
---|---|
√ |
|
x |
|
x |
|
x |
|
x |
功能说明
执行模型推理。本接口需与其它接口配合使用,以便捕获Stream上下发的任务,暂存在内部创建的模型,用于后续的任务执行,以此减少Host侧的任务下发开销,配合使用流程请参见aclmdlRICaptureBegin接口处的说明。
本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。
函数原型
aclError aclmdlRIExecuteAsync(aclmdlRI modelRI, aclrtStream stream)
参数说明
参数名 |
输入/输出 |
说明 |
---|---|---|
modelRI |
输入 |
模型的运行时实例。 调用aclmdlRICaptureBegin接口捕获Stream上下发任务后,可通过aclmdlRICaptureGetInfo接口获取模型的运行时实例,再传入本接口。 |
stream |
输入 |
指定Stream。 |
返回值说明
返回0表示成功,返回其他值表示失败,请参见aclError。
父主题: 模型执行