vconv_vdeq指令抽象。
y = vconv_vdeq(x, dtype)， vconv表示对输入数据进行量化操作的向量计算。
目前支持转换类型包括：
INT16->INT8
class Vconvdeq(x, y, dtype)
参数名 |
输入/输出 |
数据类型 |
说明 |
|---|---|---|---|
x |
输入 |
tensor变量 |
输入x向量tensor。 |
y |
输入 |
tensor变量 |
输入y向量tensor。 |
dtype |
输出 |
字符串 |
表示目标tensor的数据类型。 |
ub_x, ub_y = Tensor("UB", "FP16"), Tensor("UB")
ub_x.load(gm_x)
out = vconv_vdeq(ub_x, ub_y, "FP32")()