Reduce
产品支持情况
产品 |
是否支持 |
|---|---|
Atlas 350 加速卡 |
√ |
x |
|
x |
|
x |
|
x |
|
x |
|
x |
功能说明
支持归约求和、归约取最大值、归约取最小值。
定义原型
template <ReduceType type = ReduceType::SUM, typename T = DefaultType, typename U = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename S, typename V> __simd_callee__ inline void Reduce(S& dstReg, V srcReg, MaskReg mask)
参数说明
参数名 |
描述 |
|---|---|
type |
ReduceType类型,支持SUM、MAX、MIN。 enum class ReduceType {
SUM = 0,
MAX,
MIN,
};
|
T |
目的操作数dstReg的数据类型。 |
U |
源操作数srcReg的数据类型。
Atlas 350 加速卡,支持的数据类型为:int16_t/half/int32_t/float/uint16_t/uint32_t/uint64_t/int64_t |
mode |
选择MERGING模式或ZEROING模式。当前仅支持ZEROING模式。
|
S |
目的操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。 |
V |
源操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。 |
约束说明
- 对于归约求最大值,当所有元素均不参与计算时,将该数据类型的最小值写入dstReg,当存在多个最大值时,会将第一个最大值的索引保存在dstReg中。
- 对于归约求最小值,当所有元素均不参与计算时,将该数据类型的最大值写入dstReg,当存在多个最小值时,会将第一个最小值的索引保存在dstReg中。
- 当归约求最小值或者归约求最大值时,源操作数的数据类型和目的操作数相同。
调用示例
- 归约求和:
template<typename T, typename U> __simd_vf__ inline void ReduceVF(__ubuf__ T* dstAddr, __ubuf__ U* srcAddr, uint32_t count, uint32_t srcRepeatSize, uint32_t dstRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensor<U> srcReg; AscendC::Reg::RegTensor<T> dsrReg; AscendC::Reg::MaskReg mask; for (uint16_t i = 0; i < repeatTimes; i++) { AscendC::Reg::LoadAlign(srcReg, srcAddr + i * srcRepeatSize); mask = AscendC::Reg::UpdateMask<U>(count); AscendC::Reg::Reduce<AscendC::Reg::ReduceType::SUM>(dsrReg, srcReg, mask); AscendC::Reg::StoreAlign(dstAddr + i * dstRepeatSize, dsrReg, mask); } } - 归约求最大值或者最小值
template<typename T> __aicore__ inline void ReduceVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensor<T> srcReg; AscendC::Reg::RegTensor<T> dstReg; AscendC::Reg::MaskReg mask; for (uint16_t i = 0; i < repeatTimes; i++) { AscendC::Reg::LoadAlign(srcReg, srcAddr + i * oneRepeatSize); mask = AscendC::Reg::UpdateMask<T>(count); // type = ReduceType::MAX AscendC::Reg::Reduce<AscendC::Reg::ReduceType::MAX>(dstReg, srcReg, mask); // type = ReduceType::MIN // AscendC::Reg::Reduce<AscendC::Reg::ReduceType::MIN>(dstReg, srcReg, mask); AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, maskReg); } }
父主题: 归约计算