--- title: 切片数据搬运 description: "| 产品 | 是否支持 |" url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0105.html sourcePath: /source/zh/canncommercial/900/API/ascendcopapi/atlasascendc_api_07_0105.html indexId: e02401b2eb8e656d73aeb43c1dc5b1f15ae8f6615749922893f324686f2ba5c576 --- # 切片数据搬运 #### 产品支持情况 | 产品 | 是否支持 | | --- | --- | | Atlas 350 加速卡 | √ | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ | | Atlas 200I/500 A2 推理产品 | x | | Atlas 推理系列产品 AI Core | √ | | Atlas 推理系列产品 Vector Core | x | | Atlas 训练系列产品 | x | #### 功能说明 支持数据的切片搬运，提取多维Tensor数据的子集进行搬运。 #### 函数原型 - Global Memory -> Local Memory 1 2 template __aicore__ inline void DataCopy(const LocalTensor& dst, const GlobalTensor& src, const SliceInfo dstSliceInfo[], const SliceInfo srcSliceInfo[], const uint32_t dimValue = 1) - Local Memory -> Global Memory 1 2 template __aicore__ inline void DataCopy(const GlobalTensor &dst, const LocalTensor &src, const SliceInfo dstSliceInfo[], const SliceInfo srcSliceInfo[], const uint32_t dimValue = 1) 各原型支持的具体数据通路和数据类型，请参考支持的通路和数据类型。 #### 参数说明 **表1 模板参数说明** | 参数名 | 描述 | | --- | --- | | T | 源操作数和目的操作数的数据类型。支持的数据类型请参考支持的通路和数据类型。 | **表2 切片数据搬运接口参数说明** | 参数名称 | 输入/输出 | 含义 | | --- | --- | --- | | dst | 输出 | 目的操作数，类型为LocalTensor或GlobalTensor。 | | src | 输入 | 源操作数，类型为LocalTensor或GlobalTensor。 | | srcSliceInfo/dstSliceInfo | 输入 | 目的操作数/源操作数切片信息，SliceInfo类型。 具体定义请参考${INSTALL\_DIR}/include/ascendc/basic\_api/interface/kernel\_struct\_data\_copy.h，${INSTALL\_DIR}请替换为CANN软件安装后文件存储路径。 | | dimValue | 输入 | 操作数维度信息，默认值为1。 | **表3 SliceInfo结构参数说明** | 参数名称 | 含义 | | --- | --- | | startIndex | 切片的起始元素位置。 | | endIndex | 切片的终止元素位置。 | | stride | 切片的间隔元素个数。 | | burstLen | 横向切片，每一片数据的长度，仅在维度为1时生效，超出1维的情况下，必须配置为1，不支持配置成其他值。单位为datablock（32B）。比如，srcSliceInfo的List为 {{16, 70, 7, 3, 87}, {0, 2, 1, 1, 3}}，{16, 70, 7, 3, 87}表示第一维的切片信息，burstLen设置为3，表示一个切片数据段大小为3个datablock； {0, 2, 1, 1, 3}为第二维的切片信息，burstLen仅能设置为1。 | | shapeValue | 当前维度的原始长度。单位为元素个数。 | 通过具体的示例对上述参数进行解析，示意图如下： 图1 参数解析示意图 - dimValue为2，表示操作数有2维。 - srcSliceInfo为 {{16, 70, 7, 3, 87}, {0, 2, 1, 1, 3}} - {16, 70, 7, 3, 87}是针对单独一行， 即从一维的角度来配置，每个元素代表一个数： startIndex = 16，表示有效数据段从第16个数开始； endIndex = 70，表示有效数据段到第70个数结束； stride = 7，单位为元素个数，表示相邻的2个切片数据段间隔的元素个数，为7个0的间距； burstLen = 3，单位为32B，表示在这一个有效数据段中，一个切片数据段大小为3个datablock； shapeValue = 87，表示单独一行的长度，单位为元素个数，即 8 * 10 + 7 = 87个元素。 - {0, 2, 1, 1, 3}是针对多行，即从二维的角度来配置，每个元素代表一行： startIndex = 0，表示有效数据段从第0行开始； endIndex = 2，表示有效数据段到第2行结束； stride = 1，表示相邻的2个切片数据段中间隔元素为1行； burstLen = 1，在dimValue > 1时必须填为1； shapeValue = 3，表明一共有3行。 - dstSliceInfo为{{0, 47, 0, 3, 48}, {0, 1, 0, 1, 2}} - {0, 47, 0, 3, 48}是针对单独一行， 即从一维的角度来配置，每个元素代表一个数： startIndex = 0，表示有效数据段从第0个数开始； endIndex = 47，表示有效数据段到第47个数结束； stride = 0，单位为元素个数，表示相邻的2个切片数据段间隔的元素个数，为0表示两个切片数据段没有间距； burstLen = 3，单位为32B，表示在这一个有效数据段中，一个切片数据段大小为3个datablock； shapeValue = 48，表示单独一行的长度，单位为元素个数，即8 * 6 = 48个元素。 - {0, 1, 0, 1, 2} 是针对多行，即从二维的角度来配置，每个元素代表1行： startIndex = 0，表示有效数据段从第0行开始； endIndex = 1，表示有效数据段到第1行结束； stride = 0，表示相邻的2个切片数据段没有间隔； burstLen = 1，在dimValue > 1时必须填为1； shapeValue = 2，表示一共有2行。 #### 返回值说明 无 #### 约束说明 - 切片数据搬运中的横向burstLen大小设置，需要用户自己通过计算：横向切片元素个数* sizeof(T)/32byte。横向切片元素个数* sizeof(T)的大小必须是32byte的倍数。 - 切片数据搬运中的SliceInfo结构体数组大小和dimValue需要保持一致，并且不超过8。 - 切片数据搬运中的srcSliceInfo数组大小的和dstSliceInfo的大小需要保持一致，两者的结构体中的burstLen需要相等（srcSliceInfo[i].burstLen = dstSliceInfo[i].burstLen）。 - 切片数据搬运对参数有一定要求，建议使用者参考调用示例，并在CPU上仿真结果无误后，再到NPU侧执行。 #### 支持的通路和数据类型 下文的数据通路均通过逻辑位置TPosition来表达，并注明了对应的物理通路。TPosition与物理内存的映射关系见表1。 **表4 Global Memory -> Local Memory具体通路和支持的数据类型** | 产品型号 | 数据通路 | 源操作数和目的操作数的数据类型（两者保持一致） | | --- | --- | --- | | Atlas 350 加速卡 | GM \-> VECIN（GM \-> UB） | bool、int8\_t、uint8\_t、hifloat8\_t、fp8\_e5m2\_t、fp8\_e4m3fn\_t、fp8\_e8m0\_t、int16\_t、uint16\_t、half、bfloat16\_t、int32\_t、uint32\_t、float、complex32、int64\_t、uint64\_t、double、complex64 | | Atlas 推理系列产品 AI Core | GM \-> VECIN（GM \-> UB） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、float | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | GM \-> VECIN（GM \-> UB） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、bfloat16\_t、float | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | GM \-> VECIN（GM \-> UB） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、bfloat16\_t、float | **表5 Local Memory -> Global Memory具体通路和支持的数据类型** | 产品型号 | 数据通路 | 源操作数和目的操作数的数据类型（两者保持一致） | | --- | --- | --- | | Atlas 350 加速卡 | VECOUT \-> GM（UB \-> GM） | bool、int8\_t、uint8\_t、hifloat8\_t、fp8\_e5m2\_t、fp8\_e4m3fn\_t、fp8\_e8m0\_t、int16\_t、uint16\_t、half、bfloat16\_t、int32\_t、uint32\_t、float、complex32、int64\_t、uint64\_t、double、complex64 | | Atlas 推理系列产品 AI Core | VECOUT、CO2 \-> GM（UB \-> GM） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、float | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | VECOUT \-> GM（UB \-> GM） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、bfloat16\_t、float | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | VECOUT \-> GM（UB \-> GM） | int8\_t、uint8\_t、int16\_t、uint16\_t、int32\_t、uint32\_t、half、bfloat16\_t、float | #### 调用示例 srcSliceInfo、dstSliceInfo参数解析与结果示例请参考图1。 ``` // srcLocal、dstLocal为int32_t类型的LocalTensor，srcGlobal、dstGlobal为int32_t类型的GlobalTensor uint32_t dimValue = 2; // 操作数维度为2 AscendC::SliceInfo srcSliceInfo[] = {{16, 70, 7, 3, 87}, {0, 2, 1, 1, 3}}; AscendC::SliceInfo dstSliceInfo[] = {{0, 47, 0, 3, 48}, {0, 1, 0, 1, 2}}; // Global Memory -> Local Memory AscendC::DataCopy(srcLocal, srcGlobal, dstSliceInfo, srcSliceInfo, dimValue); // Local Memory -> Global Memory AscendC::DataCopy(dstGlobal, dstLocal, dstSliceInfo, dstSliceInfo, dimValue); ```