接口功能:将GeluV2与DynamicQuant/AscendQuantV2进行融合,对输入的数据self进行Gelu激活后,对激活的结果进行量化,输出量化后的结果。
计算公式:
- 先计算gelu计算得到geluOut
- approximate = tanh
- approximate = none
- 再对geluOut进行量化操作
- quant_mode = static
quant_mode = dynamic
maxValue: 对应数据类型的最大值。
[object Object]undefined
每个算子分为,必须先调用“aclnnGeluQuantGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGeluQuant”接口执行计算。
[object Object]
[object Object]
参数说明:
[object Object]返回值:
第一段接口会完成入参校验,出现以下场景时报错:
[object Object]确定性计算:
- aclnnGeluQuant默认确定性实现。
inputScaleOptional的数据类型与self的类型一致,或者在类型不一致时采用精度更高的类型。
[object Object]