camct 量化的Onnx 是int8的,转成om模型 发现发现卷积一部分变成了 float16的
收藏回复举报
camct 量化的Onnx 是int8的,转成om模型 发现发现卷积一部分变成了 float16的
t('forum.solved') 已解决
发表于2023-12-18 14:01:31
0 查看

camct 量化的Onnx 是int8的,转成om模型 发现发现卷积一部分变成了 float16的,本人用的环境cann 是6.2 ,想问问 这种情况正常吗,atc转量化后的onnx,是否需要特别的转换命令?

cke_943.jpeg

我要发帖子