华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
使用ATC工具将YOLOV8的ONNX模型转换为OM模型后,在小藤上推理,发现推理结果完全错乱。
暂时不清楚原因,不知道是转换的结构不等价还是算子本身的误差或者其它bug
使用netron检查onnx模型结构和OM模型结构,发现onnx模型中卷积层之后存在swin激活函数,被展开为x*sigmoid(x),而在OM模型中完全看不到激活函数,根据我的理解,swin激活函数似乎不能被简单融合进conv层吧?
OM模型结构图
ONNX模型结构图
我要发帖子
使用ATC工具将YOLOV8的ONNX模型转换为OM模型后,在小藤上推理,发现推理结果完全错乱。
暂时不清楚原因,不知道是转换的结构不等价还是算子本身的误差或者其它bug
使用netron检查onnx模型结构和OM模型结构,发现onnx模型中卷积层之后存在swin激活函数,被展开为x*sigmoid(x),而在OM模型中完全看不到激活函数,根据我的理解,swin激活函数似乎不能被简单融合进conv层吧?
OM模型结构图
ONNX模型结构图