Sort

产品支持情况

功能说明

排序函数，按照数值大小进行降序排序。排序后的数据按照如下排布方式进行保存：

Atlas A3 训练系列产品/Atlas A3 推理系列产品采用方式一

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件采用方式一

Atlas 推理系列产品AI Core采用方式二

• 排布方式一：
  一次迭代可以完成32个数的排序，排序好的score与其对应的index一起以（score, index）的结构存储在dstLocal中。不论score为half还是float类型，dstLocal中的（score, index）结构总是占据8Bytes空间。如下所示：

  • 当score为float，index为uint32类型时，计算结果中index存储在高4Bytes，score存储在低4Bytes。

    

  • 当score为half，index为uint32类型时，计算结果中index存储在高4Bytes，score存储在低2Bytes， 中间的2Bytes保留。

    

• 排布方式二：Region Proposal排布
  输入输出数据均为Region Proposal，一次迭代可以完成16个region proposal的排序。每个Region Proposal占用连续8个half/float类型的元素，约定其格式：

  1	[x1, y1, x2, y2, score, label, reserved_0, reserved_1]

  对于数据类型half，每一个Region Proposal占16Bytes，Byte[15:12]是无效数据，Byte[11:0]包含6个half类型的元素，其中Byte[11:10]定义为label，Byte[9:8]定义为score，Byte[7:6]定义为y2，Byte[5:4]定义为x2，Byte[3:2]定义为y1，Byte[1:0]定义为x1。

  如下图所示，总共包含16个Region Proposals。

  

  对于数据类型float，每一个Region Proposal占32Bytes，Byte[31:24]是无效数据，Byte[23:0]包含6个float类型的元素，其中Byte[23:20]定义为label，Byte[19:16]定义为score，Byte[15:12]定义为y2，Byte[11:8]定义为x2，Byte[7:4]定义为y1，Byte[3:0]定义为x1。

  如下图所示，总共包含16个Region Proposals。

  

函数原型

1
2

template <typename T, bool isFullSort>
__aicore__ inline void Sort(const LocalTensor<T> &dstLocal, const LocalTensor<T> &concatLocal, const LocalTensor<uint32_t> &indexLocal, LocalTensor<T> &tmpLocal, const int32_t repeatTimes)

参数说明

返回值说明

无

约束说明

• 当存在score[i]与score[j]相同时，如果i>j，则score[j]将首先被选出来，排在前面，即index的顺序与输入顺序一致。
• 非全排序模式下，每次迭代内的数据会进行排序，不同迭代间的数据不会进行排序。
• 操作数地址偏移对齐要求请参见通用约束。

调用示例

算子样例工程请通过sort链接获取。

• 处理128个half类型数据。

  该样例适用于：

  Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

  Atlas A3 训练系列产品/Atlas A3 推理系列产品

  1 2 3 4 5 6

  uint32_t elementCount = 128; uint32_t m_sortRepeatTimes = m_elementCount / 32; uint32_t m_extractRepeatTimes = m_elementCount / 32; AscendC::Concat(concatLocal, valueLocal, concatTmpLocal, m_concatRepeatTimes); AscendC::Sort<T, isFullSort>(sortedLocal, concatLocal, indexLocal, sortTmpLocal, m_sortRepeatTimes); AscendC::Extract(dstValueLocal, dstIndexLocal, sortedLocal, m_extractRepeatTimes);

  1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

  示例结果 输入数据（srcValueGm）: 128个half类型数据 [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输入数据（srcInadexGm）: [31 30 29 ... 2 1 0 63 62 61 ... 34 33 32 95 94 93 ... 66 65 64 127 126 125 ... 98 97 96] 输出数据（dstValueGm）: [127 126 125 ... 2 1 0] 输出数据（dstIndexGm）: [127 126 125 ... 2 1 0]

• 处理64个half类型数据。

  该样例适用于：

  Atlas 推理系列产品AI Core

  1 2 3 4 5 6

  uint32_t elementCount = 64; uint32_t m_sortRepeatTimes = m_elementCount / 16; uint32_t m_extractRepeatTimes = m_elementCount / 16; AscendC::Concat(concatLocal, valueLocal, concatTmpLocal, m_concatRepeatTimes); AscendC::Sort<T, isFullSort>(sortedLocal, concatLocal, indexLocal, sortTmpLocal, m_sortRepeatTimes); AscendC::Extract(dstValueLocal, dstIndexLocal, sortedLocal, m_extractRepeatTimes);

  1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

  示例结果 输入数据（srcValueGm）: 64个half类型数据 [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输入数据（srcIndexGm）: [15 14 13 ... 2 1 0 31 30 29 ... 18 17 16 47 46 45 ... 34 33 32 63 62 61 ... 50 49 48] 输出数据（dstValueGm）: [63 62 61 ... 2 1 0] 输出数据（dstIndexGm）: [63 62 61 ... 2 1 0]