vconv_vdeq

功能说明

vconv_vdeq指令抽象。

y = vconv_vdeq(x, dtype)， vconv_vdeq表示对输入数据进行量化操作的向量计算。

目前支持转换类型包括：INT16->INT8。

接口原型

class vconv_vdeq(x, y, dtype)

参数说明

参数名	输入/输出	数据类型	说明
x	输入	tensor变量	输入x向量tensor。
y	输出	tensor变量	输出y向量tensor。
dtype	输入	字符串	表示目标tensor的数据类型。

使用示例

from mskpp import vconv_vdeq, Tensor
ub_x, ub_y = Tensor("UB", "FP16"), Tensor("UB")
gm_x = Tensor("GM")
ub_x.load(gm_x)
out = vconv_vdeq(ub_x, ub_y, "FP32")()

父主题： msKPP对外接口使用说明