开发者
下载

SetAtomicMin(ISASI)

产品支持情况

产品

是否支持

Atlas 350 加速卡

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas A2 推理系列产品

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

功能说明

原子操作函数,设置后续从VECOUT传输到GM的数据是否执行原子比较,将待拷贝的内容和GM已有内容进行比较,将最小值写入GM。

可通过设置模板参数来设定不同的数据类型。

函数原型

1
2
template <typename T>
__aicore__ inline void SetAtomicMin() 

参数说明

表1 模板参数说明

参数名

描述

T

设定不同的数据类型。

Atlas A2 训练系列产品/Atlas A2 推理系列产品,支持int8_t/int16_t/half/bfloat16_t/int32_t/float。

Atlas A3 训练系列产品/Atlas A3 推理系列产品,支持int8_t/int16_t/half/bfloat16_t/int32_t/float。

Atlas 350 加速卡,支持int8_t/int16_t/half/bfloat16_t/int32_t/float。

返回值说明

约束说明

使用完后,建议通过DisableDmaAtomic关闭原子最小操作,以免影响后续相关指令功能。

调用示例

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
#include "kernel_operator.h"

uint32_t size = 256;
constexpr uint32_t SIZE = 256;
__aicore__ inline void CopyIn()
{
    AscendC::LocalTensor<T> srcLocal = queueSrc.AllocTensor<T>();
    // 清空原子操作的状态
    AscendC::DisableDmaAtomic();
    AscendC::DataCopy(srcLocal, srcGlobal, SIZE);
    queueSrc.EnQue(srcLocal);
    // 核间同步
    AscendC::SyncAll();
}

__aicore__ inline void CopyOut()
{
    AscendC::LocalTensor<T> srcLocal = queueSrc.DeQue<T>();
    // 开启原子MIN模式,3个核取最小值
    AscendC::SetAtomicMin<T>();
    AscendC::DataCopy(dstGlobal, srcLocal, SIZE);
    // 关闭原子操作
    AscendC::DisableDmaAtomic();
    queueSrc.FreeTensor(srcLocal);
}

每个核的输入数据为: 
Src0: [1,1,1,1,1,...,1] // 256个1
Src1: [2,2,2,2,2,...,2] // 256个2
最终输出数据: [1,1,1,1,1,...,1] // 256个1