cast_to

功能说明

数据类型转换,把data中的数据转换为目标dtype类型。支持的转换范围如下表所示。

表1 支持的类型转换

源数据类型

目的数据类型

取整模式

说明

float32

float16

不涉及

-

float32

int8

舍弃小数,直接取整数

-

float32

uint8

舍弃小数,直接取整数

-

float16

float32

不涉及

-

float16

int8

舍弃小数,直接取整数

-

float16

uint8

舍弃小数,直接取整数

-

float16

int32

舍弃小数,直接取整数

-

int8

float16

不涉及

-

int8

uint8

舍弃小数,直接取整数

-

int32

float16

不涉及

-

int32

int8

舍弃小数,直接取整数

-

int32

uint8

舍弃小数,直接取整数

-

unint8

int8

舍弃小数,直接取整数

Atlas 推理系列产品支持

unint8

float16

不涉及

Atlas 推理系列产品支持

int16

int8

舍弃小数,直接取整数

Atlas 推理系列产品支持

int16

unint8

舍弃小数,直接取整数

Atlas 推理系列产品支持

int16

float16

不涉及

Atlas 推理系列产品支持

float32

int32

舍弃小数,直接取整数

Atlas 推理系列产品支持

int32

float32

不涉及

Atlas 推理系列产品支持

int32

int64

舍弃小数,直接取整数

Atlas 推理系列产品支持

int64

int32

舍弃小数,直接取整数

Atlas 推理系列产品支持

int64

float16

不涉及

Atlas 推理系列产品Atlas 训练系列产品支持

函数原型

cast_to(data, dtype, f1628IntegerFlag=True)

参数说明

返回值

res_tensor:转换后的数据,tvm.tensor类型

约束说明

无。

支持的型号

Atlas 200/300/500 推理产品

Atlas 训练系列产品

Atlas 推理系列产品

Atlas A2训练系列产品

调用示例

from tbe import tvm
from tbe import dsl
shape = (1024,1024)
input_dtype = "float16"
data = tvm.placeholder(shape, name="data", dtype=input_dtype)
res = dsl.cast_to(data,"float32")