开发者
资源
[object Object]

[object Object][object Object]undefined
[object Object]
  • 接口功能:对输入x进行量化操作,支持设置axis以指定scale和offset对应的轴,scale和offset的shape需要满足和axis指定x的轴相等或1。
  • 计算公式:
    • sqrtMode为false时,计算公式为:

      y=round((xscale)+offset)y = round((x * scale) + offset)
    • sqrtMode为true时,计算公式为:

      y=round((xscalescale)+offset)y = round((x * scale * scale) + offset)
[object Object]

每个算子分为,必须先调用“aclnnAscendQuantV3GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnAscendQuantV3”接口执行计算。

[object Object]
[object Object]
[object Object]
  • 参数说明:

    [object Object]
    • [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:

      • 参数[object Object][object Object][object Object]的数据格式为NZ时,数据类型仅支持FLOAT32。
      • 出参[object Object]的数据类型仅支持INT8,INT32,INT4。当数据格式为NZ时,数据类型支持INT32。
      • 入参[object Object]:支持取值round,ceil,trunc,floor。当输入[object Object]的数据格式为NZ时,支持取值round。
      • 入参[object Object]支持取值2,3,29,分别表示INT8、INT32、INT4。当输入[object Object]的数据格式为NZ时,支持取值3,表示INT32。
      • 入参[object Object]支持指定x的最后两个维度(假设输入x维度是xDimNum,axis取值范围是[-2,-1]或[xDimNum-2,xDimNum-1])。
    • Atlas 350 加速卡:

      • 参数[object Object][object Object][object Object]的数据格式不支持NZ。
      • 入参[object Object][object Object]表示FLOAT8_E5M2或FLOAT8_E4M3FN时,只支持round。[object Object]表示HIFLOAT8时,支持round和hybrid。[object Object]表示其他类型时,支持round,ceil,trunc和floor。
      • 入参[object Object]支持指定x的最后两个维度(假设输入x维度是xDimNum,axis取值范围是[-2,-1]或[xDimNum-2,xDimNum-1])。
    • [object Object]Atlas 推理系列产品[object Object]:

      • 入参[object Object][object Object][object Object]的数据类型不支持BFLOAT16,数据格式不支持NZ。
      • 出参[object Object]数据类型仅支持INT8,数据格式不支持NZ。
      • 入参[object Object]:支持取值round,ceil,trunc,floor。
      • 入参[object Object]仅支持取值2,表示INT8。
      • 入参[object Object]只支持指定x的最后一个维度(假设输入x维度是xDimNum,axis取值是-1或xDimNum-1)。
  • 返回值:

    aclnnStatus:返回状态码,具体参见

    第一段接口完成入参校验,出现以下场景时报错:

    [object Object]
[object Object]
  • 参数说明:

    [object Object]
  • 返回值:

    aclnnStatus:返回状态码,具体参见

[object Object]
  • 确定性计算:
    • aclnnAscendQuantV3默认确定性实现。
[object Object]

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]