FasterGelu Tiling

功能说明

用于获取FasterGelu 接口能完成计算所需最大或者最小的临时空间大小，此空间为预留空间，即需要保证预留有足够的物理空间，用于执行计算。

函数原型

inline uint32_t GetGeluMaxTmpSize(const ge::Shape srcShape, const uint32_t typeSize);

inline uint32_t GetGeluMinTmpSize(const ge::Shape srcShape, const uint32_t typeSize);

inline void GetGeluMaxMinTmpSize(const ge::Shape srcShape, const uint32_t typeSize, uint32_t& maxValue, uint32_t& minValue);

参数说明

返回值

GetGeluMaxTmpSize返回FasterGelu接口能完成计算所需最大临时空间大小。

GetGeluMinTmpSize返回FasterGelu接口能完成计算所需最小临时空间大小。

GetGeluMaxMinTmpSize返回FasterGelu接口能完成计算所需最大和最小临时空间大小。

支持的型号

Atlas A2训练系列产品

调用示例

// 输入shape信息为1024;算子输入的数据类型为half;
std::vector<int64> shape_vec = {1024};
ge::Shape srcShape(shape_vec);
uint32_t typeSize = sizeof(half);
uint32_t maxValue = 0;
uint32_t minValue = 0;
GetGeluMaxMinTmpSize(srcShape, typeSize, maxValue, minValue);

输出数据: 
maxValue: 2048
minValue: 512