--shape_generalized_build_mode

功能说明

图编译时Shape的编译方式。

该参数后续版本会废弃，请勿使用。

关联参数

该参数不能与--input_shape_range、--dynamic_batch_size、--dynamic_image_size、--dynamic_dims同时使用。

参数取值

参数值：

• shape_generalized：模糊编译：在编译时系统内部对可变维度做了泛化后再进行编译。如果算子Shape是固定，则可变维度会修改为-1（维度不变，例如原来Shape为4维，模糊编译后仍为4维）进行编译。

  该参数使用场景为：用户想编译一次达到多次执行推理的目的时，可以使用模糊编译特性。

• shape_precise：精确编译：是指按照用户指定的维度信息、在编译时系统内部不做任何转义直接编译。

参数值约束：如果算子本身不支持动态Shape、只支持静态Shape（无可变维度），此时按照静态Shape编译算子，不按模糊编译做泛化。

参数默认值：shape_precise

图1为编译的两种方式。

图1 编译模式

推荐配置及收益

无。

示例

--shape_generalized_build_mode=shape_generalized

支持的型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200I/500 A2推理产品

Atlas A2训练系列产品/Atlas 800I A2推理产品

使用约束

如果模型转换时通过该参数设置了模糊编译，则使用应用工程进行模型推理时，需要在aclmdlExecute接口之前，增加aclmdlSetDatasetTensorDesc接口，用于设置真实的shape取值