aclgrphBundleBuildModel

产品支持情况

产品	是否支持
Atlas A2 训练系列产品/Atlas 800I A2 推理产品	√
Atlas 200I/500 A2 推理产品	√
Atlas 推理系列产品	√
Atlas 训练系列产品	√
Atlas 200/300/500 推理产品	√

功能说明

将输入的一组Graph编译为适配昇腾AI处理器的离线模型。

与aclgrphBuildModel接口的区别是，该接口适用于权重更新场景。通过aclgrphBundleBuildModel接口生成离线模型缓存后，需要使用aclgrphBundleSaveModel接口落盘。

函数原型

graphStatus aclgrphBundleBuildModel(const std::vector<ge::GraphWithOptions> &graph_with_options, ModelBufferData &model)

参数说明

参数名

输入/输出

说明

graph_with_options

输入

待编译的一组图和编译参数。该入参为一个结构体，包括如下参数：

struct GraphWithOptions {
  ge::Graph graph;
  std::map<AscendString, AscendString> build_options;
};

一组图包括：权重初始化图，权重更新图，推理图，其中只有推理图支持设置如下options参数。

可以通过传入options参数配置离线模型编译配置信息，当前支持的配置参数请参见aclgrphBuildModel支持的配置参数。配置举例：

void PrepareOptions(std::map<AscendString, AscendString>& options) {
    options.insert({
        {ge::ir_option::EXEC_DISABLE_REUSED_MEMORY, "1"} // close resue memory
        });
}

model

输出

编译生成的离线模型缓存。详情请参见ModelBufferData。

struct ModelBufferData
{
  std::shared_ptr<uint8_t> data = nullptr;
  uint64_t length;
};

其中data指向生成的模型数据，length代表该模型的实际大小。

返回值说明

参数名	类型	说明
-	graphStatus	GRAPH_SUCCESS：成功。其他值：失败。

参数名

类型

说明

graphStatus

GRAPH_SUCCESS：成功。

其他值：失败。

约束说明

该接口内多个图如果涉及共享同名variable算子，接口内部会进行variable算子加速融合，建议通过aclgrphConvertToWeightRefreshableGraphs接口生成，否则可能会出现variable算子格式不一致的问题。

调用示例

完整调用示例请参见调用示例。

父主题： Graph编译接口