cast_to

功能说明

数据类型转换,把data中的数据转换为目标dtype类型。支持的转换范围如下表所示。

表1 支持的类型转换

源数据类型

目的数据类型

取整模式

float32

float16

不涉及

float32

int8

舍弃小数,直接取整数

float32

uint8

舍弃小数,直接取整数

float16

float32

不涉及

float16

int8

舍弃小数,直接取整数

float16

uint8

舍弃小数,直接取整数

float16

int32

舍弃小数,直接取整数

int8

float16

不涉及

int8

uint8

舍弃小数,直接取整数

int32

float16

不涉及

int32

int8

舍弃小数,直接取整数

int32

uint8

舍弃小数,直接取整数

unint8

int8

舍弃小数,直接取整数

unint8

float16

不涉及

int16

int8

舍弃小数,直接取整数

int16

unint8

舍弃小数,直接取整数

int16

float16

不涉及

float32

int32

舍弃小数,直接取整数

int32

float32

不涉及

int32

int64

舍弃小数,直接取整数

int64

int32

舍弃小数,直接取整数

函数原型

cast_to(data, dtype, f1628IntegerFlag=True)

参数说明

返回值

res_tensor:转换后的数据,tvm.tensor类型

约束说明

无。

支持的芯片型号

昇腾310 AI处理器

昇腾910 AI处理器

昇腾310P AI处理器

调用示例

from tbe import tvm
from tbe import dsl
shape = (1024,1024)
input_dtype = "float16"
data = tvm.placeholder(shape, name="data", dtype=input_dtype)
res = dsl.cast_to(data,"float32")