文档
注册
评分
提单
论坛
小AI

cast

函数功能

把单个数据或者tensor转换为指定的数据类型。

函数原型

def cast(x, dtype)

参数说明

参数

说明

x

数据tensor

dtype

目标数据类型,字符串类型。

返回值说明

转换为目标数据类型的数据。

约束说明

表1 支持的类型转换

源数据类型

目的数据类型

取整模式

float32

float16

不涉及

float32

int8

舍弃小数,直接取整数

float32

uint8

舍弃小数,直接取整数

float16

float32

不涉及

float16

int8

舍弃小数,直接取整数

float16

uint8

舍弃小数,直接取整数

float16

int32

舍弃小数,直接取整数

int8

float16

不涉及

int8

uint8

舍弃小数,直接取整数

int32

float16

不涉及

int32

int8

舍弃小数,直接取整数

int32

uint8

舍弃小数,直接取整数

调用示例

from tbe.common.utils import shape_util
tensor_x = tvm.placeholder((32,64,64,3), name='tensor_x', dtype="float16")
shape_util.cast(tensor_x, "float32") 

把数据类型float16的tensor_x转换为数据类型float32。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词