自定义模型转om精度损失严重
收藏回复举报
自定义模型转om精度损失严重
t('forum.solved') 已解决
发表于2025-01-02 14:09:00
0 查看

pt转onnx精度没丢失,但是onnx转om精度丢失较多。

采用MSIT工具进行分析,分析结果csv见附件。

onnx文件是fp32,采用force_fp32转换,比默认的force_fp16,精度更差了。

请问,这个怎么处理?

我要发帖子