我是先通过Pytorch GPU2 Ascend 迁移后,再自己生成onnx文件,但始终失败
报错主要为以下方面
还是在报错,而且一直是这几个
TracerWarning: Iterating over a tensor
MaxPoolWithArgmaxV1
TransData
我自己尝试的解决方法有
1 chatgpt告诉我加在maxpool2d后加 return——indices= False
2 全部设为fp16
包括model.half
input
载入权重
3 因为我使用模型是superpoint 我把特征点全部设置为固定的150
我是先通过Pytorch GPU2 Ascend 迁移后,再自己生成onnx文件,但始终失败
报错主要为以下方面
还是在报错,而且一直是这几个
TracerWarning: Iterating over a tensor
MaxPoolWithArgmaxV1
TransData我自己尝试的解决方法有
1 chatgpt告诉我加在maxpool2d后加 return——indices= False
2 全部设为fp16
包括model.half
input
载入权重
3 因为我使用模型是superpoint 我把特征点全部设置为固定的150