aclnnEmbedding

支持的产品型号

• Atlas 推理系列产品。

• Atlas 训练系列产品。

• Atlas A2训练系列产品/Atlas 800I A2推理产品。

• Atlas 200I/500 A2推理产品。

接口原型

每个算子分为，必须先调用“aclnnEmbeddingGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnEmbedding”接口执行计算。

• aclnnStatus aclnnEmbeddingGetWorkspaceSize(const aclTensor *weight, const aclTensor *indices, const aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnEmbedding(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, const aclrtStream stream)

功能描述

算子功能：把数据集合映射到向量空间，进而将数据进行量化。embedding的二维权重张量为weight(m+1行，n列)，对于任意输入索引张量indices（如1行3列），输出out是一个3行n列的张量，如下所示：

$$\begin{aligned} & weight = \begin{bmatrix} x_{01} & x_{02} & ... & x_{0n}\\ x_{11} & x_{12} & ... & x_{1n}\\ x_{21} & x_{22} & ... & x_{2n}\\ ...\\ x_{m1} & x_{m2} & ... & x_{mn}\\ \end{bmatrix}\\ & indices = \begin{bmatrix} 0,2,m \end{bmatrix}\\ & out = \begin{bmatrix} x_{01} & x_{02} & ... & x_{0n}\\ x_{21} & x_{22} & ... & x_{2n}\\ x_{m1} & x_{m2} & ... & x_{mn}\\ \end{bmatrix}\\ \end{aligned}$$

aclnnEmbeddingGetWorkspaceSize

• 参数说明：

  • weight(aclTensor*, 计算输入)：Device侧的aclTensor，数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT、FLOAT16、INT64、INT32、INT16、INT8、UINT8、BOOL、DOUBLE、COMPLEX64、COMPLEX128，支持，支持ND。
  • indices(aclTensor*, 计算输入)：Device侧的aclTensor。数据类型支持INT64、INT32，支持，支持ND。
  • out(aclTensor*, 计算输出)：Device侧的aclTensor，数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT、FLOAT16、INT64、INT32、INT16、INT8、UINT8、BOOL、DOUBLE、COMPLEX64、COMPLEX128，支持，支持ND。
  • workspaceSize(uint64_t*, 出参)：返回用户需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor**, 出参)：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  [object Object]

aclnnEmbedding

• 参数说明：

  • workspace(void*, 入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t, 入参)：在Device侧申请的workspace大小，由第一段接口aclnnEmbeddingGetWorkspaceSize获取。
  • executor(aclOpExecutor*, 入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream, 入参)：指定执行任务的 AscendCL Stream流。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束与限制

无

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。