cast
函数功能
把单个数据或者tensor转换为指定的数据类型。
函数原型
def cast(x, dtype)
参数说明
参数 |
说明 |
---|---|
x |
数据tensor |
dtype |
目标数据类型,字符串类型。 |
返回值说明
转换为目标数据类型的数据。
约束说明
源数据类型 |
目的数据类型 |
取整模式 |
---|---|---|
float32 |
float16 |
不涉及 |
float32 |
int8 |
舍弃小数,直接取整数 |
float32 |
uint8 |
舍弃小数,直接取整数 |
float16 |
float32 |
不涉及 |
float16 |
int8 |
舍弃小数,直接取整数 |
float16 |
uint8 |
舍弃小数,直接取整数 |
float16 |
int32 |
舍弃小数,直接取整数 |
int8 |
float16 |
不涉及 |
int8 |
uint8 |
舍弃小数,直接取整数 |
int32 |
float16 |
不涉及 |
int32 |
int8 |
舍弃小数,直接取整数 |
int32 |
uint8 |
舍弃小数,直接取整数 |
调用示例
from tbe.common.utils import shape_util tensor_x = tvm.placeholder((32,64,64,3), name='tensor_x', dtype="float16") shape_util.cast(tensor_x, "float32")
把数据类型float16的tensor_x转换为数据类型float32。
父主题: shape相关工具