CANN算子的内存占用明细

CANN算子的内存占用明细operator_memory_*.csv,主要记录CANN层级的算子在NPU上执行时所需内存及占用时间,其中内存由GE申请。

operator_memory_*.csv文件内容格式示例如下。

关键字段说明如下。

表1 字段说明

字段名

字段解释

Name

算子名称。

Size(KB)

算子占用内存大小,单位KB。

Allocation Time(us)

内存分配时间,单位us。

Duration(us)

内存占用时间,单位us。

Allocation Total Allocated(KB)

算子内存分配时GE内存分配总额,单位KB。

Allocation Total Reserved(KB)

算子内存分配时GE内存占用总额,单位KB。

Release Total Allocated(KB)

算子内存释放时GE内存分配总额,单位KB。

Release Total Reserved(KB)

算子内存释放时GE内存占用总额,单位KB。

Device

设备类型和设备ID,仅涉及NPU。