SetGraphFixedFeatureMemoryBaseWithType

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200/300/500 推理产品

x

功能说明

用于指定图的不同内存类型的Fixed Feature内存基地址。

内存大小从GetCompiledGraphSummary>GetAllFeatureMemoryTypeSize接口中获取。Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。

函数原型

1
Status SetGraphFixedFeatureMemoryBaseWithType(uint32_t graph_id, MemoryType type, const void *const memory, size_t size)

参数说明

参数名

输入/输出

说明

graph_id

输入

子图对应的id。

type

输入

内存类型,包含 MemoryType::MEMORY_TYPE_DEFAULT、MemoryType::MEMORY_TYPE_P2P。

memory

输入

设置的Fixed Feature内存基地址。

size

输入

设置的Fixed Feature内存大小。一定要大于等于从GetCompiledGraphSummary>GetAllFeatureMemoryTypeSize接口中获取的。

返回值说明

参数名

类型

说明

-

Status

SUCCESS:设置成功。

FAILED:设置失败。

约束说明