模型中算子融合前后信息数据

模型中算子融合前后信息数据fusion_op_*.csv。单算子场景(如PyTorch场景)下无此性能数据文件。

fusion_op_*.csv文件内容格式示例如下。

关键字段说明如下。

表1 字段说明

参数名

参数解释

Model Name

模型名称。

Model ID

模型ID。

Fusion Op

融合算子名称。

Original Ops

被融合算子名称。

Memory Input(KB)

输入Tensor内存大小,单位KB。

Memory Output(KB)

输出Tensor内存大小,单位KB。

Memory Weight(KB)

权值内存大小,单位KB。

Memory Workspace(KB)

Workspace内存大小,单位KB。

Memory Total(KB)

总内存,Memory Input、Memory Output、Memory Weight、Memory Workspace四项之和,单位KB。