aclnnConvTbc
支持的产品型号
- Atlas 推理系列产品。
- Atlas 训练系列产品。
- Atlas A2训练系列产品/Atlas 800I A2推理产品。
接口原型
每个算子分为undefined,必须先调用“aclnnConvTbcGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnConvTbc”接口执行计算。
aclnnStatus aclnnConvTbcGetWorkspaceSize(const aclTensor *self, const aclTensor *weight,const aclTensor *bias, const int64_t pad, aclTensor *output, int8_t cubeMathType, uint64_t *workspaceSize, aclOpExecutor **executor)
aclnnStatus aclnnConvTbc(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)
功能描述
- 算子功能:实现输入输出维度为 T(时间或空间维度)、B(批次)、C(通道)的一维卷积。
- 计算公式: 我们假定输入(input)的shape是(),输出(output)的shape是(),那输出将被表示为:
其中表示batch_size(批次),表示通道数,代表时间或空间维度
aclnnConvTbcGetWorkspaceSize
参数说明:
- self(const aclTensor *, 计算输入):计算公式中的
input
,undefined仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),FLOAT,FLOAT16,类型与weight一致,支持undefined,shape为(),undefined为NCL。 - weight(const aclTensor *, 计算输入):计算公式中的
weight
,undefined仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),FLOAT,FLOAT16,类型与self一致,支持undefined,shape为(),undefined为NCL。 - bias(const aclTensor *, 计算输入):计算公式中的
bias
,undefined仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),FLOAT,FLOAT16,支持undefined,shape为(),undefined为ND;bias传入的指针类型入参不允许是空指针。 - pad(int64, 计算输入):表示 H维度上左右的填充个数。
- output(const aclTensor *, 计算输出):计算公式中的
out
,undefined仅支持BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),FLOAT,FLOAT16,类型与self一致,支持undefined,shape为(),undefined为NCL。 - cubeMathType(int8_t, 计算输入):用于判断Cube单元应该使用哪种计算逻辑进行运算,INT8类型的枚举值,枚举如下:
- 0:KEEP_DTYPE,保持输入的数据类型进行计算。当输入是BFLOAT16或FLOAT,Atlas 训练系列产品和Atlas 推理系列产品暂不支持,取0时会报错。
- 1:ALLOW_FP32_DOWN_PRECISION,允许将输入数据降精度计算。当输入是FLOAT,Atlas 训练系列产品和Atlas 推理系列产品允许转换为FLOAT16计算,Atlas A2训练系列产品/Atlas 800I A2推理产品允许转换为HFLOAT32计算。当输入是BFLOAT16,Atlas 训练系列产品Cube计算单元暂不支持,取1时会报错,Atlas A2训练系列产品/Atlas 800I A2推理产品仍使用BFLOAT16计算。
- 2:USE_FP16,允许转换为数据类型FLOAT16进行计算。当输入数据类型是FLOAT时,转换为FLOAT16计算。当输入是BFLOAT16,Atlas 训练系列产品Cube计算单元暂不支持,Atlas A2训练系列产品/Atlas 800I A2推理产品转换成FLOAT16计算。
- 3:USE_HF32,允许转换为数据类型HFLOAT32计算。当输入是FLOAT,Atlas 训练系列产品和Atlas 推理系列产品暂不支持,取3时会报错,Atlas A2训练系列产品/Atlas 800I A2推理产品转换为HFLOAT32计算。当输入是BFLOAT16,Atlas 训练系列产品Cube计算单元暂不支持,取3时会报错,Atlas A2训练系列产品/Atlas 800I A2推理产品仍使用BFLOAT16计算。当输入是FLOAT16,昇腾AI处理器仍使用FLOAT16计算。
- workspaceSize(int64_t *,计算输出):返回需要在Device侧申请的workspace大小。
- executor(aclOpExecutor **,计算输出):返回op执行器,包含了算子计算流程。
- self(const aclTensor *, 计算输入):计算公式中的
返回值:
aclnnStatus:返回状态码,具体参见undefined。
[object Object]
aclnnConvTbc
参数说明:
- workspace(void *, 计算输入):在Device侧申请的workspace内存地址。
- workspaceSize(uint64_t, 计算输入):在Device侧申请的workspace大小,由第一段接口aclnnConvTbcGetWorkspaceSize获取。
- executor(aclOpExecutor *, 入参):op执行器,包含了算子计算流程。
- stream(const aclrtStream, 入参):指定执行任务的AscendCL Stream流。
返回值: aclnnStatus:返回状态码,具体参见undefined。
约束与限制
无
调用示例
示例代码如下,仅供参考,具体编译和执行过程请参考undefined。
[object Object]