函数：set_dump

dump_list

（必选）待dump数据的整网模型列表。

创建模型dump配置信息，当存在多个模型需要dump时，需要每个模型之间用英文逗号隔开。

在单算子调用场景（包括单算子模型执行和单算子API执行）下，dump_list建议为空。

model_name

模型名称，各个模型的model_name值须唯一。

• 模型加载方式为文件加载时，填入模型文件的名称，不需要带后缀名；也可以配置为ATC模型文件转换后的json文件里的最外层"name"字段对应值。
• 模型加载方式为内存加载时，配置为ATC模型文件转换后的json文件里的最外层"name"字段对应值。

layer

IO性能相对较差时，可能会出现由于数据量过大导致执行超时，所以不建议全量dump，请指定算子进行dump。通过该字段可以指定需要dump的算子名，支持指定为ATC模型转换后的算子名，也支持指定为转换前的原始算子名，配置时需注意：

• 需按格式配置，每行配置模型中的一个算子名，且每个算子之间用英文逗号隔开。
• 用户可以无需设置model_name，此时会默认dump所有model下的相应算子。如果配置了model_name，则dump对应model下的相应算子。
• 若指定的算子其输入涉及data算子，会同时将data算子信息dump出来；若需dump data算子，需要一并填写data节点算子的后继节点，才能dump出data节点算子数据。
• 当需要dump模型中所有算子时，不需要包含layer字段。

optype_blacklist

配置Dump数据黑名单，黑名单中的指定类型的算子的输入或输出数据不会进行数据Dump，用户可通过该配置控制Dump的数据量。

该功能仅在模型Dump场景，且dump_level为op时生效，同时支持和opname_blacklist配合使用。

配置示例：

{
	"dump":{
		"dump_list":[     
			{                                                                                
				"model_name":"ResNet-50",
				"optype_blacklist":[
				    {
					  "name":"conv"
					  "pos":["input0", "input1"]
					} 
				] 
			}
		],  
		"dump_path":"/home/output",
                "dump_mode":"input",
	}  
}

以上示例表示：不Dump conv算子的input0数据和input1数据，conv为算子类型。

optype_blacklist中包括name和pos字段，配置时需注意：

• name表示算子类型，支持指定为ATC模型转换后的算子类型，配置为空时该过滤项不生效。
• pos表示算子的输入或输出，仅支持配置为inputn或outputn格式，其中n表示输入输出索引号。配置为空时该过滤项不生效。
• optype_blacklist内最多支持配置100个过滤项。
• 如果配置了model_name，则仅对该model下的算子生效。如果不配置model_name，则对所有model下的算子生效。

opname_blacklist

配置Dump数据黑名单，黑名单中的指定名称的算子的输入或输出数据不会进行数据Dump，用户可通过该配置控制Dump的数据量。

该功能仅在模型Dump场景，且dump_level为op时生效，同时支持和optype_blacklist配合使用。

配置示例：

{
	"dump":{
		"dump_list":[     
			{                                                                                
				"model_name":"ResNet-50",
				"opname_blacklist":[
				    {
					  "name":"conv"
					  "pos":["input0", "input1"]
					} 
				] 
			}
		],  
		"dump_path":"/home/output",
                "dump_mode":"input",
	}  
}

以上示例表示：不Dump conv算子的input0数据和input1数据，conv为算子名称。

opname_blacklist中包括name和pos字段，配置时需注意：

• name表示算子名称，支持指定为ATC模型转换后的算子名称，配置为空时该过滤项不生效。
• pos表示算子的输入或输出，仅支持配置为inputn或outputn格式，其中n表示输入输出索引号。配置为空时该过滤项不生效。
• opname_blacklist内最多支持配置100个过滤项。
• 如果配置了model_name，则仅对该model下的算子生效。如果不配置model_name，则对所有model下的算子生效。

dump_path

（必选）dump数据文件存储到运行环境的目录，该目录需要提前创建且确保安装时配置的运行用户具有读写权限。

dump_mode

dump数据模式。

• input：dump算子的输入数据。
• output：dump算子的输出数据，默认取值output。
• all：dump算子的输入、输出数据。

  注意，配置为all时，由于部分算子在执行过程中会修改输入数据，例如集合通信类算子HcomAllGather、HcomAllReduce等，因此系统在进行dump时，会在算子执行前dump算子输入，在算子执行后dump算子输出，这样，针对同一个算子，算子输入、输出的dump数据是分开落盘，会出现多个dump文件，在解析dump文件后，用户可通过文件内容判断是输入还是输出。

dump_level

dump数据级别，取值：

• op：按算子级别dump数据。
• kernel：按kernel级别dump数据。
• all：默认值，op和kernel级别的数据都dump。

默认配置下，dump数据文件会比较多，例如有一些aclnn开头的dump文件，若用户对dump性能有要求或内存资源有限时，则可以将该参数设置为op级别，以便提升dump性能、精简dump数据文件数量。

dump_op_switch

单算子调用场景（包括单算子模型执行和单算子API执行）下，是否开启dump数据采集。

• on：开启。
• off：关闭，默认取值off。

dump_step

指定采集哪些迭代的Dump数据。推理场景无需配置。

不配置该参数，默认所有迭代都会产生dump数据，数据量比较大，建议按需指定迭代。

多个迭代用“|”分割，例如：0|5|10；也可以用“-”指定迭代范围，例如：0|3-5|10。

配置示例：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

{
	"dump":{
		"dump_list":[     
			...... 
		],  
		"dump_path":"/home/output",
                "dump_mode":"output",
		"dump_op_switch":"off",
                "dump_step": "0|3-5|10"
	}  
}

dump_data

算子dump内容类型，取值：

• tensor: dump算子数据，默认为tensor。
• stats: dump算子统计数据，结果文件为csv格式，文件中包含算子名称、输入/输出的数据类型、最大值、最小值等。

通常dump数据量太大并且耗时长，可以先dump算子统计数据，根据统计数据识别可能异常的算子，然后再dump算子数据。

dump_stats

当dump_data=stats时，可通过本参数设置收集统计数据中的哪一类数据，本参数取值如下：

• Max：dump算子统计数据中的最大值。
• Min：dump算子统计数据中的最小值。
• Avg：dump算子统计数据中的平均值。
• Nan：dump算子统计数据中未定义或不可表示的数值，仅针对浮点类型half、bfloat、float。
• Negative Inf：dump算子统计数据中的负无穷值，仅针对浮点类型half、bfloat、float。
• Positive Inf：dump算子统计数据中的正无穷值，仅针对浮点类型half、bfloat、float。
• L2norm：dump算子统计数据的L2Norm值。

配置示例：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

{
    "dump":{
	"dump_list":[     
		...... 
	],  
        "dump_path":"/home/output",
        "dump_mode":"output",
        "dump_data":"stats",
        "dump_stats":["Max", "Min"]
    }
}