华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
pt转onnx精度没丢失,但是onnx转om精度丢失较多。
采用MSIT工具进行分析,分析结果csv见附件。
onnx文件是fp32,采用force_fp32转换,比默认的force_fp16,精度更差了。
请问,这个怎么处理?
我要发帖子
pt转onnx精度没丢失,但是onnx转om精度丢失较多。
采用MSIT工具进行分析,分析结果csv见附件。
onnx文件是fp32,采用force_fp32转换,比默认的force_fp16,精度更差了。
请问,这个怎么处理?