不同数据类型参数进行运算时,推导应该将类型提升到何种数据类型进行计算。例如float16与float32进行运算,应该将float16先提升至float32后再做运算。
DataType PromoteType(const DataType type_a, const DataType type_b)
参数 |
输入/输出 |
说明 |
---|---|---|
type_a |
输入 |
第一个参数数据类型。 |
type_b |
输入 |
第二个参数数据类型。 |
若无法推导类型提升后的数据类型,运算会失败并返回DT_UNDEFINED。
无
1 2 3 4 5 6 | // 判断dtype是否可以与Float32计算,不能则返回 void Func(const DataType dtype) { if (PomoteType(dtype, DT_FLOAT) == DT_UNDEFINED) { return; } } |