问题描述:初步怀疑是mindspore转换onnx的 NMS算子不兼容,但是不确定,因为Atlas 200 DK A2 提供的om模型中也有NMS层。(后续将会附上ATC日志,自己转换的onnx模型以及Atlas 200 DK A2提供的om模型)
将如下网址的ckpt文件下载后
https://download.mindspore.cn/models/r1.9/ctpn_pretrain_ascend_v190_icdar2013_official_cv_acc87.69.ckpt
通过如下网站下载的CTPN的mindspiore代码下载:
https://gitee.com/mindspore/models/tree/r1.9/official/cv/ctpn
使用export.py完成ckpt -> onnx的模型转换,随后使用CANN(7.0.0) 的 ATC工具模型转化:
atc --output="./cnnctc" --soc_version=Ascend310B4 --framework=5 --model="./cnnctc.onnx" --input_format=NCHWatc --input_shape="img_data:1,3,576,960" --input_fp16_nodes="img_data" --input_format=NCHW --output="./cnnctc" --soc_version=Ascend310B4 --framework=5 --model="./cnnctc.onnx"
出现如下报错:
ATC run failed, Please check the detail log, Try 'atc --help' for more information
EA0000: Compile operator failed, cause: repeat_times should be in the range of [1, 255], input repeat_times: 375
File path: /usr/local/Ascend/ascend-toolkit/7.0.0/opp/built-in/op_impl/ai_core/tbe/impl/non_max_suppression_v7_without_proposal.py, line 1162
The context code cause the exception is:
问题描述:初步怀疑是mindspore转换onnx的 NMS算子不兼容,但是不确定,因为Atlas 200 DK A2 提供的om模型中也有NMS层。(后续将会附上ATC日志,自己转换的onnx模型以及Atlas 200 DK A2提供的om模型)
将如下网址的ckpt文件下载后
https://download.mindspore.cn/models/r1.9/ctpn_pretrain_ascend_v190_icdar2013_official_cv_acc87.69.ckpt
通过如下网站下载的CTPN的mindspiore代码下载:
https://gitee.com/mindspore/models/tree/r1.9/official/cv/ctpn
使用export.py完成ckpt -> onnx的模型转换,随后使用CANN(7.0.0) 的 ATC工具模型转化:
atc --output="./cnnctc" --soc_version=Ascend310B4 --framework=5 --model="./cnnctc.onnx" --input_format=NCHWatc --input_shape="img_data:1,3,576,960" --input_fp16_nodes="img_data" --input_format=NCHW --output="./cnnctc" --soc_version=Ascend310B4 --framework=5 --model="./cnnctc.onnx"
出现如下报错:
ATC run failed, Please check the detail log, Try 'atc --help' for more information
EA0000: Compile operator failed, cause: repeat_times should be in the range of [1, 255], input repeat_times: 375
File path: /usr/local/Ascend/ascend-toolkit/7.0.0/opp/built-in/op_impl/ai_core/tbe/impl/non_max_suppression_v7_without_proposal.py, line 1162
The context code cause the exception is: