YOLOv5s更换激活函数导出om模型推理结果异常
收藏回复举报
YOLOv5s更换激活函数导出om模型推理结果异常
t('forum.solved') 已解决
新人帖
发表于2024-06-05 16:49:34
0 查看

yolov5s版本:7.0(更换激活函数把Silu替换为LeakyRelu)

CANN版本:Ascend-cann-toolkit_8.0.RC1.alpha001_linux-x86_64.run

硬件型号:Ascend310B4

转换命令:atc --model=maskv6.onnx --framework=5 --output=maskv2 --input_format=NCHW --input_shape="images:1,3,416,416" --log=error --output_type=FP16 --soc_version=Ascend310B4

推理结果画框很多重复框,调了阈值0.9、iou 0.9~0.2。

cke_10979.png

用公版模型sigmoid测试正常;只改了激活函数经过atc转换后推理的数据异常这是怎么回事,我需要如何正确修改atc转换命令?

我要发帖子