[object Object]

[object Object][object Object]undefined[object Object]

• 接口功能：根据传入的分组索引的起始值，对传入的数据进行分组的float8的动态量化。

• 计算公式：

  • 将输入x在第0维上先按照groupIndex进行分组，每个group内按k = blocksize个数分组，一组k个数 $\{\{x_i\}_{i=1}^{k}\}$ 计算出这组数对应的量化尺度mxscale_pre, $\{mxscale\_pre, \{P_i\}_{i=1}^{k}\}$, 计算公式为下面公式(1)(2)。$$shared\_exp = floor(log_2(max_i(|V_i|))) - emax \tag{1}$$ $$mxscale\_pre = 2^{shared\_exp} \tag{2}$$
  • 这组数每一个除以mxscale，根据round_mode转换到对应的dst_type，得到量化结果y, 计算公式为下面公式(3)。$$P_i = cast\_to\_dst\_type(V_i/mxscale, round\_mode), \space i\space from\space 1\space to\space blocksize \tag{3}$$

  ​ 量化后的$P_i$按对应的$x_i$的位置组成输出y，mxscale_pre按对应的groupIndex分组，分组内第一个维度pad为偶数，组成输出mxscale。

  • emax: 对应数据类型的最大正则数的指数位。

    [object Object]undefined

[object Object]

每个算子分为，必须先调用“aclnnGroupedDynamicMxQuantGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGroupedDynamicMxQuant”接口执行计算。

[object Object]

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  第一段接口完成入参校验，出现以下场景时报错：

  [object Object]

[object Object]

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

[object Object]

• 确定性计算：
  • aclnnGroupedDynamicMxQuant默认确定性实现。

[object Object]

示例代码如下，仅供参考，具体编译和执行过程请参考。