aclnnInstanceNorm

支持的产品型号

• Atlas 推理系列产品

接口原型

每个算子分为undefined，必须先调用aclnnInstanceNormGetWorkspaceSize接口获取入参并根据计算流程所需workspace大小，再调用aclnnInstanceNorm接口执行计算。

• aclnnStatus aclnnInstanceNormGetWorkspaceSize(const aclTensor *x, const aclTensor *gamma, const aclTensor *beta, const char *dataFormat, double eps, aclTensor *y, aclTensor *mean, aclTensor *variance, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnInstanceNorm(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

• 算子功能：计算InstanceNorm功能。
• 计算公式：

$$y = {{x-E(x)}\over\sqrt {Var(x)+e}} * \gamma + \beta$$

aclnnInstanceNormGetWorkspaceSize

• 参数说明：

  • x（aclTensor *，计算输入）：公式中的x。Device 侧的aclTensor，tensor维度为4维。数据类型支持FLOAT、FLOAT16。支持非连续的Tensor，undefined支持ND， 实际数据格式由参数 dataFormat 决定。
  • gamma（aclTensor *，计算输入）：公式中的gamma。Device 侧的aclTensor，tensor维度为1维, 且 shape 和输入 x 的C轴一致。数据类型支持FLOAT、FLOAT16， 和输入 x 保持一致。支持非连续的Tensor，undefined支持ND。
  • beta（aclTensor *，计算输入）：公式中的beta。Device 侧的aclTensor，tensor维度为1维, 且 shape 和输入 x 的C轴一致。数据类型支持FLOAT、FLOAT16， 和输入 x 保持一致。支持非连续的Tensor，undefined支持ND。
  • dataFormat（const char *，计算输入）：算子输入Tensor的实际数据排布，可以是"NHCW"或"NCHW"。
  • eps（double *，计算输入）：对应InstanceNorm 计算公式中的 epsilon，添加到分母中的值，以确保数值稳定。
  • y（aclTensor *，计算输出）：表示 InstanceNorm 的结果输出y。Device 侧的aclTensor，数据类型支持FLOAT、FLOAT16， 且数据类型与x一致。 shape需要与 x一致，undefined支持ND。
  • mean（aclTensor *，计算输出）：公式中E(x)的计算结果。tensor维度为4维，shape 为 x 输入的N，C轴保持不变，HW轴reduce为1。数据类型支持FLOAT、FLOAT16， 且和输入 x 保持一致。undefined支持ND。
  • variance（aclTensor *，计算输出）：公式中Var(x)的计算结果。tensor维度为4维，shape 为 x 输入的N，C轴保持不变，HW轴reduce为1。数据类型支持FLOAT、FLOAT16， 且和输入 x 保持一致。undefined支持ND。
  • workspaceSize（uint64_t *，出参）：返回用户需要在Device 侧申请的workspace大小。
  • executor（aclOpExecutor **，出参）：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus：返回状态码。（参见undefined）

  [object Object]

aclnnInstanceNorm

• 参数说明：

  • workspace（void *，入参）：在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t，入参）：在Device侧申请的workspace大小，由第一段接口aclnnInstanceNormGetWorkspaceSize获取。
  • executor（aclOpExecutor *，入参）：op执行器，包含了算子计算流程。
  • stream（aclrtStream，入参）：指定执行任务的AscendCL stream流。

• 返回值：

  aclnnStatus：返回状态码。（具体参见undefined）

约束与限制

• 功能维度
  • 数据类型支持
    • x, gamma, beta, y, mean, variance 支持：FLOAT32、FLOAT16。
  • 数据格式支持：ND。
  • 仅支持Atlas 推理系列产品
  • x，y的shape要求4维，gamma/beta的维度要求1维，且和x，y的C轴一致。
  • x，y的 H*W 大小需要大于 32Bytes， C轴需要大于 32Bytes
  • 参数 dataFormat 仅支持 "NHWC" 和 "NCHW"
• 边界值场景说明
  • 当输入是inf时，输出为inf。
  • 当输入是nan时，输出为nan。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。