开发者
资源

全量接口列表

本文档主要描述给应用用户或者上层框架提供了安全易用的构图接口集合,开发者可以调用这些接口构建网络模型,设置模型所包含的图、图内的算子以及算子的属性信息(包括Input、Output及其他属性信息)。

aclgrph接口(C++)

接口列表

功能描述

aclgrphParseCaffe

将Caffe模型解析为图。

aclgrphParseONNX

将ONNX模型解析为Graph。

aclgrphParseONNXFromMem

将加载至内存的ONNX模型解析为Graph。

aclgrphParseTensorFlow

将TensorFlow模型解析为Graph。

aclgrphBuildInitialize

模型构建的初始化函数,用于申请资源。

aclgrphBuildFinalize

系统完成模型构建后,通过该接口释放资源。

aclgrphBuildModel

将输入的Graph编译为适配AI处理器的离线模型,并保存到内存缓冲区。

aclgrphBundleBuildModel

aclgrphBuildModel接口的区别是,该接口适用于权重更新场景。通过aclgrphBundleBuildModel接口生成离线模型缓存后,需要使用aclgrphBundleSaveModel接口落盘。

aclgrphBundleSaveModel

将离线模型序列化并保存到指定文件中。

aclgrphConvertToWeightRefreshableGraphs

通过传入Const节点名数组将原图转换成一组权重可更新的图。

aclgrphDumpGraph

将输入的Graph导出到文本中。

aclgrphGetIRVersion

获取模型构建相关接口的版本号。

aclgrphGenerateForOp

根据单算子信息或单算子JSON文件构建Graph。

aclgrphSaveModel

将离线模型序列化并保存到指定文件中。

aclgrphSetOpAttr

用于支持设置node属性方式的改图。

aclgrphCalibration

将非量化Graph自动修改为量化后的Graph。详细使用场景请参见量化

aclgrphProfCreateConfig

创建Profiling配置信息。

aclgrphProfDestroyConfig

销毁Profiling配置信息。

aclgrphProfFinalize

结束Profiling。

aclgrphProfInit

初始化Profiling,设置Profiling参数(目前供用户设置保存性能数据文件的路径)。

aclgrphProfStart

下发Profiling请求,使能对应数据的采集。

aclgrphProfStop

停止Profiling数据采集。

Session接口(C++)

  • Session

    接口列表

    功能描述

    Session构造函数和析构函数

    Session构造函数和析构函数。

    AddGraph

    向Session中添加Graph,Session内会生成唯一的Graph ID。

    AddGraphWithCopy

    向Session中添加Graph,Session内会生成唯一的Graph ID。

    BuildGraph

    同步编译指定ID对应的Graph图,生成可用于执行的模型。

    CompileGraph

    同步编译指定ID对应的Graph图。与BuildGraph相比,该接口仅包含图编译功能,不生成可用于执行的模型,BuildGraph包含了图编译过程,并在编译完成后进行模型所需内存资源的初始化,生成可用于执行的模型。

    ExecuteGraphWithStreamAsync

    异步运行指定ID对应的Graph图,输出执行结果。

    GEInitialize

    初始化GE,完成运行准备。

    GetCompiledGraphSummary

    查询图编译结果的概要信息。包括Feature内存大小、Const内存大小、Stream、Event数目及内存是否可刷新等信息。

    GEFinalize

    GE退出,释放GE相关资源。

    GEGetErrorMsg

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。

    GEGetErrorMsgV2

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。

    GEGetWarningMsg

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。

    GEGetWarningMsgV2

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。

    GetSessionId

    获取Session的ID。

    GetVariables

    变量查询接口,获取Session内所有variable算子或指定variable算子的Tensor内容。

    IsGraphNeedRebuild

    Graph是否需要重新编译。

    LoadGraph

    异步执行Graph场景使用,将指定Graph ID的图绑定到对应Stream上。

    PaRemapped

    用于内存出现UCE(Uncorrectable Error,不可纠正错误)错误时判断此段内存是否可以快速恢复。

    RegisterCallBackFunc

    注册回调函数。

    RegisterExternalAllocator

    用户将自己的Allocator注册给GE,适用于使用用户的内存池场景。

    RemoveGraph

    在当前Session中删除指定ID对应的Graph。

    RunGraph

    同步运行指定ID对应的Graph图,输出运行结果。

    RunGraphAsync

    异步运行指定ID对应的Graph图,输出运行结果。

    RunGraphDistribute

    对输入refdata节点切分后,同步运行指定ID对应的Graph图,输出运行结果。

    RunGraphWithStreamAsync

    异步运行指定ID对应的Graph图,输出运行结果。该接口包括了编译,加载和运行Graph的操作

    SaveGraphsToPb

    该接口已废弃,请勿使用。

    保存Session内图接口,将图保存为pb文件,支持Session内的权重共享功能(即Session内两张图若有两个权重值是一致的,则只会保存一份权重)。

    SetGraphConstMemoryBase

    设置Graph的Const内存基址。

    SetGraphFixedFeatureMemoryBase

    用于指定图的Fixed Feature内存基地址。

    SetGraphFixedFeatureMemoryBaseWithType

    用于指定图的不同内存类型的Fixed Feature内存基地址。

    ShardGraphs

    该接口已废弃,请勿使用。

    切分图接口,对Session内的图按照AddGraph的顺序进行切分,切分后的图保存在内存中

    ShardGraphsToFile

    该接口已废弃,请勿使用。

    切分图接口,对Session内的图按照AddGraph的顺序进行切分,切分后的图保存为pb文件

    UpdateGraphFeatureMemoryBase

    用于更新Graph的Feature内存基址。

    UpdateGraphRefreshableFeatureMemoryBase

    用于更新除了Fixed之外可刷新的Feature内存基址。

    UnregisterExternalAllocator

    将用户基于Stream注册的Allocator销毁,适用于使用用户的内存池场景。

  • GESession

    接口列表

    功能描述

    GeSession构造函数和析构函数

    GeSession构造函数和析构函数。

    AddGraph

    向GeSession中添加Graph,GeSession内会生成唯一的Graph ID。

    AddGraphClone

    向GeSession中添加Graph,GeSession内会生成唯一的Graph ID。

    CompileGraph

    同步编译指定ID对应的Graph图。

    GEFinalizeV2

    GE退出,释放GE相关资源。

    GEGetErrorMsgV3

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。

    GEGetWarningMsgV3

    获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。

    GEInitializeV2

    初始化GE,完成运行准备。

    GetCompiledGraphSummary

    查询图编译结果的概要信息。包括Feature内存大小、Const内存大小、Stream、Event数目及内存是否可刷新等信息。

    GetCompiledModel

    获取图编译后的序列化模型。

    GetSessionId

    获取Session的ID。

    IsGraphNeedRebuild

    Graph是否需要重新编译。

    LoadGraph

    加载图并为其执行做准备,包括申请与管理图运行所需的内存及计算流等资源。

    RegisterCallBackFunc

    注册回调函数。

    RegisterExternalAllocator

    用户将自己的Allocator注册给GE,适用于使用用户的内存池场景。

    RemoveGraph

    在当前GeSession中删除指定ID对应的Graph。

    RunGraph

    同步运行指定ID对应的Graph图,输出运行结果。

    RunGraphAsync

    异步运行指定ID对应的Graph图,输出运行结果。

    RunGraphWithStreamAsync

    异步运行指定ID对应的Graph图,输出执行结果。

    SetGraphConstMemoryBase

    设置Graph的Const内存基址。

    SetGraphFixedFeatureMemoryBaseWithType

    用于指定图的不同内存类型的Fixed Feature内存基地址。

    UpdateGraphFeatureMemoryBase

    用于更新Graph的Feature内存基址。

    UpdateGraphRefreshableFeatureMemoryBase

    用于更新除了Fixed之外可刷新的Feature内存基址。

    UnregisterExternalAllocator

    将用户基于Stream注册的Allocator销毁,适用于使用用户的内存池场景。

ES接口(C++)

图基础数据结构和接口(C++)

Session接口(Python)

接口列表

功能描述

Session构造函数

初始化Session。

add_graph

向会话添加图。

ge_initialize

初始化GE,准备执行。

ge_finalize

终结GE,释放所有资源。

run_graph

运行图。

ES接口(Python)

  • 类和结构体

    接口列表

    功能描述

    GraphBuilder

    GraphBuilder类用于以Eager Style方式构建计算图。

    TensorHolder

    TensorHolder类用于在Eager Style图构建中表示张量操作。

  • 全局函数

    接口列表

    功能描述

    attr_scope

    属性作用域上下文管理器。

    control_dependency_scope

    控制依赖作用域上下文管理器。

    get_plugin

    获取指定名称的插件模块。

    list_plugins

    列出所有已加载的插件名称。

图基础数据结构和接口(Python)

  • 类和结构体

    接口列表

    功能描述

    Graph

    Graph类用于表示和操作计算图。

    Node

    Node类用于表示和操作计算图中的节点。

    Tensor

    Tensor类用于表示张量数据。

  • 枚举

    枚举

    功能描述

    AttrValueType

    属性值类型枚举。

    DataType

    数据类型枚举,定义了支持的所有数据类型。

    DumpFormat

    图导出格式枚举。

    InputType

    输入类型枚举。

    Format

    数据格式枚举,定义了支持的所有数据格式。

图基础数据结构和接口(C)

接口列表

功能描述

aclGetCustomOpLibPath

获取自定义算子库的路径。

GeSessionLoadGraph

只有异步执行Graph场景使用,使用指定的Session,将指定Graph ID的图绑定到对应Stream上。

GeSessionExecuteGraphWithStreamAsync

使用指定的Session实例,异步运行指定ID对应的Graph图,输出执行结果。

GEStreamAllocationSummaryGetAllNodes

获取根图和子图的所有节点。

GEStreamAllocationSummaryGetAttachedStreamIds

获取根图和子图附属逻辑从流ID。

GEStreamAllocationSummaryGetHcclFollowedStreamNums

获取根图和子图的实际通信从流的物理流数量。

GEStreamAllocationSummaryGetLogicalStreamIds

获取根图和子图的逻辑流ID。

GEStreamAllocationSummaryGetPhysicalStreamNums

获取根图和子图的实际物理流数量。

GEStreamAllocationSummaryGetStringInfos

获取根图和子图的逻辑流信息字符串。

GEStreamAllocationSummaryGetStreamGraphs

获取根图和子图的流图。

GEStreamAllocationSummaryGetUsrStreamLabels

获取根图和子图的用户流标签。

GEStreamAllocationSummaryIsAssignedByStreamPass

获取根图和子图是否由用户注册的流分配Pass分配。

GetRegisteredIrDef

获取注册的IR(Intermediate Representation)算子原型定义信息。

IsIrRepSupport

查询IR(Intermediate Representation)表达能力。