trunc
功能说明
将raw_tensor中每个元素向0取整(例如,-1.9向0取整的结果是-1,1.9向0取整的结果是1)。
函数原型
trunc(raw_tensor)
参数说明
raw_tensor:输入tensor,tvm.tensor类型。
Atlas 训练系列产品:支持的数据类型有float16、float32
Atlas 推理系列产品(Ascend 310P处理器):支持的数据类型有float16、float32、f162s8、f162u8、f162s32、f322s32
Atlas 200/500 A2推理产品:支持的数据类型有float16、float32
Atlas A2训练系列产品/Atlas 800I A2推理产品:支持的数据类型有float16、float32
返回值
res_tensor:结果tensor,tvm.tensor类型。
默认数据类型为int32。若指定了输出类型,则按照指定的数据类型进行输出,例如,若输入数据类型为f162s8,则输出数据类型为int8。
约束说明
无。
支持的型号
Atlas 训练系列产品
Atlas 推理系列产品(Ascend 310P处理器)
Atlas 200/500 A2推理产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
调用示例
from tbe import tvm from tbe import dsl shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = dsl.trunc(data)
父主题: Cast计算接口