RunGraphWithStreamAsync

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200/300/500 推理产品

x

功能说明

异步运行指定id对应的Graph图,输出运行结果。该接口包括了编译,加载和运行Graph的操作

此函数与RunGraph均为运行指定id对应的图,并输出结果,区别于RunGraph的是,该接口:

函数原型

1
Status RunGraphWithStreamAsync(uint32_t graph_id, void *stream, const std::vector<Tensor> &inputs,std::vector<Tensor> &outputs)

参数说明

参数名

输入/输出

说明

graph_id

输入

子图对应的id。

stream

输入

指定图在哪个Stream上运行。

inputs

输入

当前子图对应的输入数据,为Device上的内存空间。

outputs

输出

当前子图对应的输出数据,为Device上的内存空间。

返回值说明

参数名

类型

说明

-

Status

SUCCESS:异步运行图成功。

FAILED:异步运行图失败。

约束说明

调用示例

请参见异步运行Graph