输入数据格式。此参数实际对应的options参数为[object Object]。
参数取值:
支持NCHW、NHWC、ND、NCDHW、NDHWC格式。
配置示例:
如果同时开启AIPP,在进行推理业务时,输入图片数据要求为NHWC排布。该场景下INPUT_FORMAT参数指定的数据格式不生效。
[object Object]
产品支持情况:
全量芯片支持。
扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中实际运行的扩展算子的映射。此参数实际对应的options参数为[object Object]。
Caffe网络中具有相同类型名但计算功能不同的层,比如DetectionOutput层,需要使用算子映射指明为FSRDetectionOutput、SSDDetectionOutput等检测算子类型,否则生成离线模型会执行失败。
该参数仅适用与Caffe框架。
路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。
配置示例:
其中,扩展算子映射配置文件内容示例如下:
产品支持情况:
[object Object][object Object]- Ascend 950PR/Ascend 950DT:不支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:支持
- Atlas 推理系列产品:支持
- Atlas 训练系列产品:支持
输入预处理算子的配置文件路径,例如Aipp算子。参数详细使用请参见。此参数实际对应的options参数为[object Object]。
若配置了该参数,则不能对同一个输入节点同时使用INPUT_FP16_NODES参数。
配置文件路径:支持大小写字母、数字,下划线;文件名部分:支持大小写字母、数字,下划线和点(.)
配置示例:
配置文件的内容示例如下:
[object Object]
产品支持情况:
[object Object]- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
- Atlas 200I/500 A2 推理产品:支持
- Atlas 推理系列产品:支持
- Atlas 训练系列产品:支持
网络输出数据类型。此参数实际对应的options参数为[object Object]。
参数取值:
- FP32:推荐分类网络、检测网络使用。
- FP16:推荐分类网络、检测网络使用。通常用于一个网络输出作为另一个网络输入场景。
- UINT8:图像超分辨率网络,推荐使用,推理性能更好。
- INT8
- UINT16
- INT16
- UINT32
- INT32
- UINT64
- INT64
- DOUBLE
- HIF8:仅Ascend 950PR/Ascend 950DT支持该类型。
- FP8E5M2:仅Ascend 950PR/Ascend 950DT支持该类型。
- FP8E4M3FN:仅Ascend 950PR/Ascend 950DT支持该类型。
模型编译后,在对应的*.om模型文件中,上述数据类型分别呈现方式如下:
- DT_FLOAT
- DT_FLOAT16
- DT_UINT8
- DT_INT8
- DT_UINT16
- DT_INT16
- DT_UINT32
- DT_INT32
- DT_UINT64
- DT_INT64
- DT_DOUBLE
- DT_HIFLOAT8
- DT_FLOAT8_E5M2
- DT_FLOAT8_E4M3FN
配置示例:
参数值约束:
- 若不指定具体数据类型,则以原始网络模型最后一层输出的算子数据类型为准。
- 若指定了类型,则以该参数指定的类型为准。
产品支持情况:
全量芯片支持。
指定输入数据类型为FP16的输入节点名称。此参数实际对应的options参数为[object Object]。
例如:"node_name1;node_name2",指定的节点必须放在双引号中,节点中间使用英文分号分隔。若配置了该参数,则不能对同一个输入节点同时使用INSERT_OP_FILE参数。
配置示例:
产品支持情况:
全量芯片支持。