SAM转om时overflow问题
收藏回复举报
SAM转om时overflow问题
t('forum.solved') 已解决
发表于2024-12-02 18:25:49
0 查看

一、问题现象(附报错日志上下文):
参考链接:参考链接:https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/ACL_PyTorch/built-in/cv/SAM
参考链接下载vit_h/vit_b权重,导出onnx简化onnx,decoder转om时使用动态维度报错:

atc --framework 5 --model models/decoder_sim.onnx \
  --output models/decoder_sim --input_format 'ND' \
  --input_shape 'image_embeddings:1,256,64,64;point_coords:1,-1,2;point_labels:1,-1;mask_input:1,1,256,256;has_mask_input:1' \
  --dynamic_dims '2,2;3,3;4,4;5,5;6,6;7,7;8,8;9,9' \
  --op_select_implmode 'high_performance' \
  --optypelist_for_implmode 'Gelu' \
  --soc_version Ascend310P

true ​ 静态维度可以转成功:

atc --framework 5 --model models/decoder_sim.onnx   --output models/decoder_sim --input_format 'ND'   --input_shape 'image_embeddings:1,256,64,64;point_coords:1,3,2;point_labels:1,3;mask_input:1,1,256,256;has_mask_input:1' --op_select_implmode 'high_performance'   --optypelist_for_implmode 'Gelu'   --soc_version Ascend310P3

true 二、软件版本:
-- CANN 版本 (8.0.RC3): 8.0.RC3
--Pytorch 版本: 2.1.0
--Python 版本 (e.g., Python 3.7.5): 3.10.12
--操作系统版本 (e.g., Ubuntu 18.04): ubuntu22.04
--mindie:1.0.RC3
--nnal:8.0.RC3

debug日志:
通过网盘分享的文件:atc_log.txt 链接: https://pan.baidu.com/s/1GQqTu_FvgpZaL6cUffZ1sQ?pwd=5q77 提取码: 5q77

我要发帖子