昇腾社区首页
中文
注册

两段式接口

CANN单算子API执行的算子接口一般定义为“两段式接口”,样式如下:

[object Object]

其中aclnnXxxGetWorkspaceSize为第一段接口,主要用于计算本次API调用过程中需要多少workspace内存,获取到本次计算所需的workspaceSize后,按照workspaceSize申请NPU内存,然后调用第二段接口aclnnXxx执行计算。

说明:

  • workspace是指除输入/输出外,API在NPU上完成计算所需要的临时内存。
  • 第二段接口aclnnXxx(...)不能重复调用,如下调用方式会出现异常:
[object Object]