开发者
资源

ReduceDataBlock

产品支持情况

产品

是否支持

Atlas 350 加速卡

Atlas A3 训练系列产品/Atlas A3 推理系列产品

x

Atlas A2 训练系列产品/Atlas A2 推理系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

功能说明

当ReduceType 为SUM,将每个DataBlock(32B)中参与计算的元素相加,并将最终的计算结果依次保存在dstReg的最低位。

当ReduceType 为MAX,将每个DataBlock(32B)中的最大值,并将最终的计算结果依次保存在dstReg中的最低位。

当ReduceType 为MIN,将每个DataBlock(32B)中的最小值,并将最终的计算结果依次保存在dstReg中的最低位。

定义原型

template <ReduceType type = ReduceType::SUM, typename T = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename U>
__simd_callee__ inline void ReduceDataBlock(U& dstReg, U srcReg, MaskReg mask)

参数说明

表1 模板参数说明

参数名

描述

type

ReduceType类型,支持SUM、MAX、MIN。

enum class ReduceType {
    SUM = 0,
    MAX,
    MIN,
};

T

目的操作数和源操作数的数据类型。

Atlas 350 加速卡, 支持的数据类型为:int16_t/uint16_t/half/int32_t/uint32_t/float

mode

选择MERGING模式或ZEROING模式。当前仅支持ZEROING模式。

  • ZEROING,mask未筛选的元素在dst中置零。

U

目的操作数和源操作数的RegTensor类型, 例如RegTensor<int32_t>,由编译器自动推导,用户不需要填写。

表2 函数参数说明

参数名

输入/输出

描述

dstReg

输出

目的操作数。

类型为RegTensor

srcReg

输入

源操作数。

类型为RegTensor

mask

输入

源操作数元素操作的有效指示,详细说明请参考MaskReg

约束说明

调用示例

template<typename T>
__simd_vf__ inline void ReduceDataBlockVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint32_t count, 
 uint32_t oneRepeatSize, uint16_t repeatTimes)
{
    AscendC::Reg::RegTensor<T> srcReg;
    AscendC::Reg::RegTensor<T> dstReg;
    AscendC::Reg::MaskReg mask;
    for (uint16_t i = 0; i < repeatTimes; i++) {
        AscendC::Reg::LoadAlign(srcReg, srcAddr + i * oneRepeatSize);
        mask = AscendC::Reg::UpdateMask<T>(count);
        // type = ReduceType::SUM
        AscendC::Reg::ReduceDataBlock<AscendC::Reg::ReduceType::SUM>(dstReg, srcReg, mask);
        // type = ReduceType::MAX
        // AscendC::Reg::ReduceDataBlock<AscendC::Reg::ReduceType::MAX>(dstReg, srcReg, mask);
        // type = ReduceType::MIN
        // AscendC::Reg::ReduceDataBlock<AscendC::Reg::ReduceType::MIN>(dstReg, srcReg, mask);
        AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, mask); 
    }
}