数据格式转换处理。
m0/n0表示对齐位,float16时,n0与m0都为16, int8时,n0为32,m0为16,m1m0表示原始ND的m维度经过对齐位向上对齐,n1表示原始ND的n维度经过对齐位向上对齐后,除以n0的商。例如原始ND的dims为{8, 100, 30},则其对应的NZ的dims为{8, 2, 112, 16}。
struct TransdataParam { enum TransdataType : int { UNDEFINED = 0, FRACTAL_NZ_TO_ND, ND_TO_FRACTAL_NZ }; TransdataType transdataType = UNDEFINED; SVector<int64_t> outCrops = {0, 0}; };
成员名称 |
描述 |
---|---|
transdataType |
数据格式转换类型,支持FRACTAL_NZ和ND互相转换。 |
outCrops |
仅当FRACTAL_NZ转ND时使用,表示原ND数据格式Shape的最后两维。 |
参数 |
维度 |
数据类型 |
格式 |
---|---|---|---|
x |
|
float16/int8 |
ND |
或
参数 |
维度 |
数据类型 |
格式 |
---|---|---|---|
x |
[batch, n1, m1m0, n0] |
float16 |
NZ |
参数 |
维度 |
数据类型 |
格式 |
---|---|---|---|
y |
[batch, n1, m1m0, n0] |
float16/int8 |
NZ |
或
参数 |
维度 |
数据类型 |
格式 |
---|---|---|---|
y |
[batch, m, n] |
float16 |
ND |