vconv_vdeq

功能说明

vconv_vdeq指令抽象。

y = vconv_vdeq(x, dtype)， vconv_vdeq表示对输入数据进行量化操作的向量计算。

目前支持转换类型包括：INT16->INT8。

接口原型

class vconv_vdeq(x, y, dtype)

参数说明

使用示例

from mskpp import vconv_vdeq, Tensor
ub_x, ub_y = Tensor("UB", "FP16"), Tensor("UB")
gm_x = Tensor("GM")
ub_x.load(gm_x)
out = vconv_vdeq(ub_x, ub_y, "FP32")()