昇腾社区首页
中文
注册

aclnnConvTbc

产品支持情况

产品 是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]
[object Object]Atlas 200I/500 A2 推理产品[object Object] ×
[object Object]Atlas 推理系列产品 [object Object]
[object Object]Atlas 训练系列产品[object Object]

功能说明

  • 算子功能:实现输入输出维度为 T(时间或空间维度)、B(批次)、C(通道)的一维卷积。
  • 计算公式: 假定输入(input)的shape是(Hin,N,CinH_{\text{in}},N,C_{\text{in}}),输出(output)的shape是(Hout,N,CoutH_{\text{out}},N,C_{\text{out}}),那输出将被表示为:outNi,Coutj=bias(Cout)+k=0Cin1weight(:,k,Coutj)input(Ni,k)out_{N_i,C_{out j}} = bias(C_{out}) + \sum_{k = 0}^{C_{in} - 1} weight(:, k, C_{out j}) \cdot input(N_i, k) 其中NN表示batch_size(批次),CC表示通道数,HH代表时间或空间维度。

函数原型

每个算子分为undefined,必须先调用“aclnnConvTbcGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnConvTbc”接口执行计算。

  • aclnnStatus aclnnConvTbcGetWorkspaceSize(const aclTensor *self, const aclTensor *weight,const aclTensor *bias, const int64_t pad, aclTensor *output, int8_t cubeMathType, uint64_t *workspaceSize, aclOpExecutor **executor)
  • aclnnStatus aclnnConvTbc(void* workspace, const uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

aclnnConvTbcGetWorkspaceSize

  • 参数说明:

    • self(aclTensor*, 计算输入):表示卷积输入。计算公式中的inputundefined,类型与weight一致,支持undefined,shape为(N,Cin,HinN,C_{in},H_{in}),undefined支持ND、NCL。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。支持N、C、L维度大于等于0。
      • [object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。支持N、C、L维度大于等于0。
    • weight(aclTensor*, 计算输入):表示卷积权重。计算公式中的weightundefined,类型与self一致,支持undefined,shape为(Cout,Cin,KC_{\text{out}},C_{\text{in}},K),undefined支持ND、NCL。L维度必须大于0。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas 训练系列产品[object Object]:支持N、C维度大于等于0。
    • bias(aclTensor*, 计算输入):表示卷积偏置。计算公式中的biasundefined,支持undefined,shape为(CoutC_{\text{out}}),undefined为ND;bias传入的指针类型入参不允许是空指针。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
      • [object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
    • pad(int64_t, 计算输入):表示 H维度上左右的填充个数。大小应该在[0,255]的范围内。
    • output(aclTensor*, 计算输出):表示卷积输出。计算公式中的outundefined,类型与self一致,支持undefined,shape为(N,Cout,HoutN,C_{\text{out}},H_{\text{out}}),undefined支持ND、NCL。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas 训练系列产品[object Object]:支持N、C、L维度大于等于0(等于0的场景仅在self的N或C或L维度等于0时支持)。
    • cubeMathType(int8_t, 计算输入):用于判断Cube单元应该使用哪种计算逻辑进行运算,数据类型为INT8,注意:如果输入的数据类型存在undefined,该参数默认对互推导后的数据类型进行处理。支持的枚举值如下:
      • 0:KEEP_DTYPE,保持输入的数据类型进行计算。
        • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]:当输入是FLOAT,暂不支持该选项。
      • 1:ALLOW_FP32_DOWN_PRECISION,允许将输入数据降精度计算。
        • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]:当输入是FLOAT,允许转换为FLOAT16计算。当输入为其他数据类型时不做处理。
        • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:当输入是FLOAT,允许转换为HFLOAT32计算。当输入为其他数据类型时不做处理。
      • 2:USE_FP16,允许转换为数据类型FLOAT16进行计算。
        • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:当输入是BFLOAT16时不支持该选项。当输入是其他数据类型时不做处理。
      • 3:USE_HF32,允许转换为数据类型HFLOAT32计算。
        • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]:暂不支持该选项。
        • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:当输入是FLOAT,转换为HFLOAT32计算。当输入为其他数据类型时不做处理。
    • workspaceSize(uint64_t *,出参):返回需要在Device侧申请的workspace大小。
    • executor(aclOpExecutor **,出参):返回op执行器,包含了算子计算流程。
  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

    [object Object]

aclnnConvTbc

  • 参数说明:

    • workspace(void *, 入参):在Device侧申请的workspace内存地址。
    • workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnConvTbcGetWorkspaceSize获取。
    • executor(aclOpExecutor *, 入参):op执行器,包含了算子计算流程。
    • stream(aclrtStream, 入参):指定执行任务的Stream。
  • 返回值: aclnnStatus:返回状态码,具体参见undefined

约束说明

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]