开发者
资源
[object Object][object Object][object Object]undefined
[object Object]

对输入的int32_t类型的数据按元素做量化并转换为half类型。计算公式如下:

dst[i]=Cast(src[i]scale)dst[i] = Cast(src[i] * scale)

其中的scale可通过设置。

[object Object]
  • 前n个数据计算

    [object Object]
  • 高维切分计算

    [object Object]
  • 同步计算

    [object Object]
[object Object][object Object]undefined
[object Object]

[object Object]

PIPE_V

[object Object]
  • 需配合接口的非向量模式使用,该接口用于设置量化参数。
  • dst、src的起始地址需要32字节对齐。
  • 操作数地址重叠约束请参考
[object Object]
[object Object]