
用最新的工具链 Ascend-cann-toolkit_6.3.RC2.alpha002_linux-x86_64.run和量化工具 Ascend-cann-amct_6.3.RC2.alpha002_linux-x86_64.tar.gz
使用如下命令:
1. python3 ./hik_mobilenet_merge_bn_onnx/process_data.py
2. amct_onnx calibration --model ./hik_mobilenet_merge_bn_onnx/hik_mobilenet_merge_bn.onnx --input_shape "data:1,3,224,224" --data_type "float32" --data_dir ./hik_mobilenet_merge_bn_onnx/calibration/ --save_path ./hik_mobilenet_merge_bn_onnx/output/output
3. atc --model=./hik_mobilenet_merge_bn_onnx/output/output_deploy_model.onnx --framework=5 --output=./hik_mobilenet_merge_bn_onnx/output/output_deploy_model --soc_version=Ascend310 --input_fp16_nodes="data" --output_type=FP16 --is_input_adjust_hw_layout=true --is_output_adjust_hw_layout=true --enable_small_channel=1 --enable_compress_weight=true --buffer_optimize=l1_optimize
编译常规的onnx模型hik_mobilenet_merge_bn.onnx,发现量化完成,编译模型也成功,但是上板子出现如上问题。
用最新的工具链 Ascend-cann-toolkit_6.3.RC2.alpha002_linux-x86_64.run和量化工具 Ascend-cann-amct_6.3.RC2.alpha002_linux-x86_64.tar.gz
使用如下命令:
1. python3 ./hik_mobilenet_merge_bn_onnx/process_data.py
2. amct_onnx calibration --model ./hik_mobilenet_merge_bn_onnx/hik_mobilenet_merge_bn.onnx --input_shape "data:1,3,224,224" --data_type "float32" --data_dir ./hik_mobilenet_merge_bn_onnx/calibration/ --save_path ./hik_mobilenet_merge_bn_onnx/output/output
3. atc --model=./hik_mobilenet_merge_bn_onnx/output/output_deploy_model.onnx --framework=5 --output=./hik_mobilenet_merge_bn_onnx/output/output_deploy_model --soc_version=Ascend310 --input_fp16_nodes="data" --output_type=FP16 --is_input_adjust_hw_layout=true --is_output_adjust_hw_layout=true --enable_small_channel=1 --enable_compress_weight=true --buffer_optimize=l1_optimize
编译常规的onnx模型hik_mobilenet_merge_bn.onnx,发现量化完成,编译模型也成功,但是上板子出现如上问题。