--- title: MrgSort description: "| 产品 | 是否支持 |" url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0847.html sourcePath: /source/zh/canncommercial/900/API/ascendcopapi/atlasascendc_api_07_0847.html indexId: 7e8c906f4fec318b5cda185092e7a9b41497a1a81ec78fedd695a4a319ffe22f76 --- # MrgSort #### 产品支持情况 | 产品 | 是否支持 | | --- | --- | | Atlas 350 加速卡 | √ | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ | | Atlas 200I/500 A2 推理产品 | x | | Atlas 推理系列产品 AI Core | √ | | Atlas 推理系列产品 Vector Core | x | | Atlas 训练系列产品 | x | #### 功能说明 将已经排好序的最多4条队列，合并排列成1条队列，结果按照score域由大到小排序，排布方式如下： Atlas 350 加速卡采用方式一。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 采用方式一。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 采用方式一。 Atlas 推理系列产品 AI Core采用方式二。 - 排布方式一： MrgSort处理的数据一般是经过Sort处理后的数据，也就是Sort接口的输出，队列的结构如下所示： - 数据类型为float，每个结构占据8Bytes。 - 数据类型为half，每个结构也占据8Bytes，中间有2Bytes保留。 - 排布方式二：Region Proposal排布 输入输出数据均为Region Proposal，具体请参见Sort中的排布方式二。 #### 函数原型 ``` template __aicore__ inline void MrgSort(const LocalTensor &dst, const MrgSortSrcList &sortList, const uint16_t elementCountList[4], uint32_t sortedNum[4], uint16_t validBit, const int32_t repeatTime) ``` #### 参数说明 **表1 模板参数说明** | 参数名 | 描述 | | --- | --- | | T | 操作数的数据类型。 Atlas 350 加速卡，支持的数据类型为：half、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：half、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：half、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：half、float。 | | isExhaustedSuspension | 某条队列耗尽（即该队列已经全部排序到目的操作数）后，是否需要停止合并。类型为bool，参数取值如下： false：直到所有队列耗尽完才停止合并。 true：某条队列耗尽后，停止合并。 默认值为false。 | **表2 接口参数说明** | 参数名 | 输入/输出 | 描述 | | | | --- | --- | --- | --- | --- | | dst | 输出 | 目的操作数，存储经过排序后的数据。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 | | | | sortList | 输入 | 源操作数，支持2\-4个队列，并且每个队列都已经排好序，类型为MrgSortSrcList结构体，具体请参考表3。MrgSortSrcList中传入要合并的队列。 1 2 3 4 5 6 7 template struct MrgSortSrcList { LocalTensor src1; LocalTensor src2; LocalTensor src3; // 当要合并的队列个数小于3，可以为空tensor LocalTensor src4; // 当要合并的队列个数小于4，可以为空tensor }; | 1 2 3 4 5 6 7 | template struct MrgSortSrcList { LocalTensor src1; LocalTensor src2; LocalTensor src3; // 当要合并的队列个数小于3，可以为空tensor LocalTensor src4; // 当要合并的队列个数小于4，可以为空tensor }; | | 1 2 3 4 5 6 7 | template struct MrgSortSrcList { LocalTensor src1; LocalTensor src2; LocalTensor src3; // 当要合并的队列个数小于3，可以为空tensor LocalTensor src4; // 当要合并的队列个数小于4，可以为空tensor }; | | | | | elementCountList | 输入 | 四个源队列的长度（排序方式一：8Bytes结构的数目，排序方式二：16\*sizeof(T)Bytes结构的数目），类型为长度为4的uint16\_t数据类型的数组，理论上每个元素取值范围[0, 4095]，但不能超出UB的存储空间。 | | | | sortedNum | 输出 | 耗尽模式下（即isExhaustedSuspension为true时），停止合并时每个队列已排序的元素个数。 | | | | validBit | 输入 | 有效队列个数，取值如下： 0b11：前两条队列有效 0b111：前三条队列有效 0b1111：四条队列全部有效 | | | | repeatTime | 输入 | 迭代次数，每一次源操作数和目的操作数跳过四个队列总长度。取值范围：repeatTime∈[1,255]。 repeatTime参数生效是有条件的，需要同时满足以下四个条件： srcLocal包含四条队列并且validBit=15 四个源队列的长度一致 四个源队列连续存储 isExhaustedSuspension为false | | | **表3 MrgSortSrcList参数说明** | 参数名称 | 输入/输出 | 含义 | | --- | --- | --- | | src1 | 输入 | 源操作数，第一个已经排好序的队列。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 数据类型与目的操作数保持一致。 Atlas 350 加速卡，支持的数据类型为：half、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：half、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：half、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：half、float。 | | src2 | 输入 | 源操作数，第二个已经排好序的队列。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 数据类型与目的操作数保持一致。 Atlas 350 加速卡，支持的数据类型为：half、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：half、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：half、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：half、float。 | | src3 | 输入 | 源操作数，第三个已经排好序的队列。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 数据类型与目的操作数保持一致。 Atlas 350 加速卡，支持的数据类型为：half、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：half、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：half、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：half、float。 | | src4 | 输入 | 源操作数，第四个已经排好序的队列。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 数据类型与目的操作数保持一致。 Atlas 350 加速卡，支持的数据类型为：half、float。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，支持的数据类型为：half、float。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，支持的数据类型为：half、float。 Atlas 推理系列产品 AI Core，支持的数据类型为：half、float。 | #### 返回值说明 无 #### 约束说明 - 当存在score[i]与score[j]相同时，如果i>j，则score[j]将首先被选出来，排在前面，即index的顺序与输入顺序一致。 - 每次迭代内的数据会进行排序，不同迭代间的数据不会进行排序。 - 操作数地址对齐要求请参见 通用地址对齐约束 。 #### 调用示例 - 处理128个half类型数据。 该样例适用于： Atlas 350 加速卡 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 完整样例请参考MrgSort样例(https://gitcode.com/cann/asc-devkit/tree/9.0.0/examples/01_simd_cpp_api/03_libraries/05_sort/mrgsort)。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 uint32_t elementCount = 128; // 元素个数 uint32_t calcBufferSize = elementCount * 8; // 每个元素占据8字节 uint32_t tmpBufferSize = elementCount * 8; uint32_t sortedLocalSize = elementCount * 4; uint32_t sortRepeatTimes = elementCount / 32; uint32_t extractRepeatTimes = elementCount / 32; uint32_t sortTmpLocalSize = elementCount * 4; uint32_t singleMergeTmpElementCount = elementCount / 4; uint32_t baseOffset = AscendC::GetSortOffset(singleMergeTmpElementCount); AscendC::MrgSortSrcList sortList = AscendC::MrgSortSrcList(sortedLocal[0], sortedLocal[baseOffset], sortedLocal[2 * baseOffset], sortedLocal[3 * baseOffset]); // sortList：待合并的有序队列列表 uint16_t singleDataSize = elementCount / 4; // 队列长度 const uint16_t elementCountList[4] = {singleDataSize, singleDataSize, singleDataSize, singleDataSize}; // 4个队列的长度 uint32_t sortedNum[4]; // 合并sortList中的4条队列 AscendC::MrgSort(sortTmpLocal, sortList, elementCountList, sortedNum, 0b1111, 1); 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 示例结果 输入数据(srcValueGm): 128个half类型数据 [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输入数据(srcIndexGm): [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输出数据(dstValueGm): [127 126 125 ... 2 1 0] 输出数据(dstIndexGm): [127 126 125 ... 2 1 0] - 处理64个half类型数据。 该样例适用于： Atlas 推理系列产品 AI Core 1 2 3 4 5 6 7 8 9 10 uint32_t elementCount = 64; // 元素个数 // 单条队列元素个数 uint32_t singleMergeTmpElementCount = elementCount / 4; uint32_t baseOffset = AscendC::GetSortOffset(singleMergeTmpElementCount); AscendC::MrgSortSrcList sortList = AscendC::MrgSortSrcList(sortedLocal[0], sortedLocal[baseOffset], sortedLocal[2 * baseOffset], sortedLocal[3 * baseOffset]); // sortList：待合并的有序队列列表 uint16_t singleDataSize = elementCount / 4; // 队列长度 const uint16_t elementCountList[4] = {singleDataSize, singleDataSize, singleDataSize, singleDataSize}; // 4个队列的长度 uint32_t sortedNum[4]; // 合并sortList中的4条队列 AscendC::MrgSort(sortTmpLocal, sortList, elementCountList, sortedNum, 0b1111, 1); 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 示例结果 输入数据(srcValueGm): 64个half类型数据 [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输入数据(srcIndexGm): [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输出数据(dstValueGm): [63 62 61 ... 2 1 0] 输出数据(dstIndexGm): [63 62 61 ... 2 1 0]