--- title: UnPad description: "| 产品 | 是否支持 |" url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0851.html sourcePath: /source/zh/canncommercial/900/API/ascendcopapi/atlasascendc_api_07_0851.html indexId: b4dee563d754fd5660375dda949c63348e7ec61625722dd048e8b91334d6866876 --- # UnPad #### 产品支持情况 | 产品 | 是否支持 | | --- | --- | | Atlas 350 加速卡 | √ | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ | | Atlas 200I/500 A2 推理产品 | x | | Atlas 推理系列产品 AI Core | √ | | Atlas 推理系列产品 Vector Core | x | | Atlas 训练系列产品 | x | #### 功能说明 对height * width的二维Tensor在width方向上进行unpad，如果Tensor的width非32B对齐，则不支持调用本接口unpad。本接口具体功能场景如下：Tensor的width已32B对齐，以half为例，如16*16，进行UnPad，变成16*15。 #### 函数原型 由于该接口的内部实现中涉及复杂的计算，需要额外的临时空间来存储计算过程中的中间变量。临时空间大小BufferSize的获取方法：通过UnPad Tiling中提供的GetUnPadMaxMinTmpSize接口获取所需最大和最小临时空间大小，最小空间可以保证功能正确，最大空间用于提升性能。 临时空间支持接口框架申请和开发者通过sharedTmpBuffer入参传入两种方式，因此UnPad接口的函数原型有两种： - 通过sharedTmpBuffer入参传入临时空间 1 2 template __aicore__ inline void UnPad(const LocalTensor& dstTensor, const LocalTensor& srcTensor, UnPadParams& unPadParams, LocalTensor& sharedTmpBuffer, UnPadTiling& tiling) 该方式下开发者需自行申请并管理临时内存空间，并在接口调用完成后，复用该部分内存，内存不会反复申请释放，灵活性较高，内存利用率也较高。 - 接口框架申请临时空间 1 2 template __aicore__ inline void UnPad(const LocalTensor& dstTensor, const LocalTensor& srcTensor, UnPadParams& unPadParams, UnPadTiling& tiling) 该方式下开发者无需申请，但是需要预留临时空间的大小。 #### 参数说明 **表1 模板参数说明** | 参数名 | 描述 | | --- | --- | | T | 操作数的数据类型。 Atlas 350 加速卡，支持的数据类型为：int16\_t、uint16\_t、half、int32\_t、uint32\_t、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：int16\_t、uint16\_t、half、int32\_t、uint32\_t、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：int16\_t、uint16\_t、half、int32\_t、uint32\_t、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：int16\_t、uint16\_t、half、int32\_t、uint32\_t、float。 | **表2 接口参数说明** | 参数名称 | 输入/输出 | 含义 | | | | --- | --- | --- | --- | --- | | dstTensor | 输出 | 目的操作数，shape为二维，LocalTensor数据结构的定义请参考LocalTensor。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 | | | | srcTensor | 输入 | 源操作数，shape为二维，LocalTensor数据结构的定义请参考LocalTensor。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 | | | | UnPadParams | 输入 | UnPad详细参数，UnPadParams数据类型，具体结构体参数说明如下： leftPad，左边unpad的数据量。leftPad要求小于32B。单位：列。当前暂不生效。 rightPad，右边unpad的数据量。rightPad要求小于32B，大于0。单位：列。当前只支持在右边进行unpad。 UnPadParams结构体的定义如下： 1 2 3 4 struct UnPadParams { uint16\_t leftPad = 0; uint16\_t rightPad = 0; }; | 1 2 3 4 | struct UnPadParams { uint16\_t leftPad = 0; uint16\_t rightPad = 0; }; | | 1 2 3 4 | struct UnPadParams { uint16\_t leftPad = 0; uint16\_t rightPad = 0; }; | | | | | sharedTmpBuffer | 输入 | 共享缓冲区，用于存放API内部计算产生的临时数据。该方式开发者可以自行管理sharedTmpBuffer内存空间，并在接口调用完成后，复用该部分内存，内存不会反复申请释放，灵活性较高，内存利用率也较高。共享缓冲区大小的获取方式请参考UnPad Tiling。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 | | | | tiling | 输入 | 计算所需tiling信息，Tiling信息的获取请参考UnPad Tiling。 | | | #### 返回值说明 无 #### 约束说明 - 操作数地址对齐要求请参见 通用地址对齐约束 。 #### 调用示例 本样例：Tensor的width已32B对齐，以half为例，如16*16，进行UnPad，变成16*15。输入数据类型均为half。 完整调用样例请参考UnPad样例(https://gitcode.com/cann/asc-devkit/tree/9.0.0/examples/01_simd_cpp_api/03_libraries/08_transpose/unpad)。 ``` // dstLocal：输出Tensor // srcLocal：输入Tensor // unPadParams：控制填充的参数 AscendC::UnPadParams unPadParams{0, 1}; // 左边去掉0列，右边去掉1列，当前暂不支持左边unpad AscendC::UnPad(srcOutLocal, dstLocal, unPadParams, tilingData.unpadTilingData); ```