接口功能:根据传入的分组索引的起始值(groupList)对各个group以基本块的粒度进行量化,量化为(FP8/HiFP8),并输出量化参数scale(FP32)。 与aclnnGroupedDynamicBlockQuant接口相比,在目标数据类型为HIFLOAT8时,可以根据dstTypeMax设置目标数据类型的最大值。
计算公式:
每个算子分为,必须先调用“aclnnGroupedDynamicBlockQuantV2GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGroupedDynamicBlockQuantV2”接口执行计算。
[object Object]
[object Object]
- 确定性说明:aclnnGroupedDynamicBlockQuantV2默认确定性实现。
- 支持场景说明:仅支持yOut和scaleOut同时为空Tensor的场景,其他空Tensor场景不支持。
[object Object]