aclnnConvolution

支持的产品型号

• Atlas 推理系列产品。
• Atlas 训练系列产品。
• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined，必须先调用“aclnnConvolutionGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnConvolution”接口执行计算。

• aclnnStatus aclnnConvolutionGetWorkspaceSize( const aclTensor *input, const aclTensor *weight, const aclTensor *bias, const aclIntArray *stride, const aclIntArray *padding, const aclIntArray *dilation, bool transposed, const aclIntArray *outputPadding, const int64_t groups, aclTensor *output, int8_t cubeMathType, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnConvolution(void* workspace, const uint64_t workspaceSize, aclOpExecutor *executor, const aclrtStream stream)

功能描述

• 算子功能：实现卷积功能，支持1D卷积，2D卷积，3D卷积，同时支持转置卷积、空洞卷积、分组卷积。 对于入参transposed = True时，表示使用转置卷积或者分数步长卷积。它可以看作是普通卷积的梯度或者逆向操作，即从卷积的输出形状恢复到输入形状，同时保持与卷积相容的连接模式。它的参数和普通卷积类似，包括输入通道数、输出通道数、卷积核大小、步长、填充、输出填充、分组、偏置、扩张等。

• 计算公式：

  我们假定输入（input）的shape是 $(N, C_{\text{in}}, H, W)$ ,输出（output）的shape是 $(N, C_{\text{out}}, H_{\text{out}}, W_{\text{out}})$，那输出将被表示为：

$$\text{out}(N_i, C_{\text{out}_j}) = \text{bias}(C_{\text{out}_j}) + \sum_{k = 0}^{C_{\text{in}} - 1} \text{weight}(C_{\text{out}_j}, k) \star \text{input}(N_i, k)$$

其中，$\star$表示互相关的计算，根据卷积输入的dim，卷积的类型（空洞卷积、分组卷积）而定。$N$代表batch size，$C$代表通道数，$W$和$H$分别代表宽和高

aclnnConvolutionGetWorkspaceSize

• 参数说明：

  • input(aclTensor *, 计算输入)：公式中的input，数据类型仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)，FLOAT，FLOAT16，支持undefined， undefined为NCL，NCHW，NCDHW。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d、2d和3d transposed=true场景，各个维度的大小应该在[1,2147483646]的范围内。
  • weight(aclTensor *, 计算输入)：公式中的weight，数据类型仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)，FLOAT，FLOAT16，支持undefined， undefined为NCL，NCHW，NCDHW。Atlas A2训练系列产品/Atlas 800I A2推理产品的2d和3d transposed=true场景，H、W的大小应该在[1,255]的范围内，其他维度的大小应该在[1,2147483646]的范围内。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d transposed=true场景，L的大小应该在[1,255]的范围内，其他维度的大小应该在[1,2147483646]的范围内。
  • bias(aclTensor *, 计算输入)：公式中的bias，数据类型仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持, conv1d/conv2d正向场景下会转成FLOAT参与计算)，FLOAT，FLOAT16(在Atlas 推理系列产品conv2d正向场景下会直接以FLOAT16格式与输入规格下不带bias的conv2d FLOAT16运算结果进行相加，得到最终带bias的conv2d结果)，支持undefined，undefined为NCL，NCHW，NCDHW, ND（Transpose卷积下格式只能是ND，当transposed=false情况下的conv1d、conv2d卷积格式只支持一维且数值与weight第一维相等）。
  • stride(aclIntArray *, 计算输入)：卷积扫描步长，数组长度需等于input的维度减2。Atlas A2训练系列产品/Atlas 800I A2推理产品的3d transposed=true场景，strideD应该在[1,2147483646]的范围内，strideH、strideW应该在[1,63]的范围内。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d和2d transposed=true场景，各个值都应该在[1,2147483646]的范围内。
  • padding(aclIntArray *, 计算输入)：对input的填充，对于conv1d非转置卷积的数组长度可以为1或者2；对于conv2d数组长度可以为2或者4；conv3d数组长度可以为3。Atlas A2训练系列产品/Atlas 800I A2推理产品的3d transposed=true场景，paddingD应该在[0,2147483646]的范围内，paddingH、paddingW应该在[0,255]的范围内。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d和2d transposed=false场景，各个值都应该在[0,255]的范围内。
  • dilation(aclIntArray *, 计算输入)：卷积核中元素的间隔，数组长度需等于input的维度减2。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d、2d和3d transposed=true场景，各个值都应该在[1,255]的范围内。
  • transposed(bool, 计算输入)：是否为转置卷积。
  • outputPadding(aclIntArray *, 计算输入)：转置卷积情况下，对输出所有边的填充，数组长度需等于input的维度减2。
  • groups(int64_t, 计算输入)：表示从输入通道到输出通道的块链接个数，数值必须大于0，且满足groups*weight的C维度=input的C维度。Atlas A2训练系列产品/Atlas 800I A2推理产品的1d、2d和3d transposed=true场景，groups应该在[1,65535]的范围内。
  • cubeMathType(int8_t, 计算输入)：用于判断Cube单元应该使用哪种计算逻辑进行运算，INT8类型的枚举值，枚举如下：
    • 0:KEEP_DTYPE，保持输入的数据类型进行计算。当输入是BFLOAT16或FLOAT，Atlas 训练系列产品和Atlas 推理系列产品暂不支持，取0时会报错。
    • 1:ALLOW_FP32_DOWN_PRECISION，允许将输入数据降精度计算。当输入是FLOAT，Atlas 训练系列产品和Atlas 推理系列产品允许转换为FLOAT16计算，Atlas A2训练系列产品/Atlas 800I A2推理产品允许转换为HFLOAT32计算。当输入是BFLOAT16，Atlas 训练系列产品和Atlas 推理系列产品Cube计算单元暂不支持，取1时会报错，Atlas A2训练系列产品/Atlas 800I A2推理产品仍使用BFLOAT16计算。
    • 2:USE_FP16，允许转换为数据类型FLOAT16进行计算。当输入数据类型是FLOAT时，转换为FLOAT16计算。当输入是BFLOAT16，Atlas 训练系列产品和Atlas 推理系列产品Cube计算单元暂不支持，Atlas A2训练系列产品/Atlas 800I A2推理产品转换成FLOAT16计算。
    • 3:USE_HF32，允许转换为数据类型HFLOAT32计算。当输入是FLOAT，Atlas 训练系列产品和Atlas 推理系列产品暂不支持，取3时会报错，Atlas A2训练系列产品/Atlas 800I A2推理产品转换为HFLOAT32计算。当输入是BFLOAT16，Atlas 训练系列产品和Atlas 推理系列产品Cube计算单元暂不支持，取3时会报错，Atlas A2训练系列产品/Atlas 800I A2推理产品仍使用BFLOAT16计算。当输入是FLOAT16，昇腾AI处理器仍使用FLOAT16计算。
  • output(aclTensor *, 计算输出)：公式中的out，数据类型为input和weight中的高精度类型，数据类型仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)，FLOAT，FLOAT16，undefined为NCL，NCHW，NCDHW。
  • workspaceSize(uint64_t *, 计算输出)：返回需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor **, 计算输出)：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus： 返回状态码，具体参见undefined。

  [object Object]

aclnnConvolution

• 参数说明：

  • workspace(void*, 入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t, 入参)：在Device侧申请的workspace大小，由第一段接口aclnnConvolutionGetWorkspaceSize获取。
  • executor(aclOpExecutor*, 入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream, 入参)：指定执行任务的AscendCL Stream流。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束与限制

Atlas 推理系列产品: 当前仅支持1D和2D卷积，暂不支持3D卷积。 由于硬件资源限制，算子在部分参数取值组合场景下会执行失败，请根据日志信息提示分析并排查问题。若无法解决，请单击undefined获取技术支持。

Atlas 训练系列产品: 支持1D和2D卷积，3D卷积仅支持transposed为false且输入数据类型为FLOAT16场景。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。