华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
本人用onnx模型转换成om模型在昇腾310上推理,训练好的模型都是32位的,但是看昇腾310只支持int8和fp16的精度,那么在昇腾设备om模型实际上推理精度到底是多少?
我要发帖子
本人用onnx模型转换成om模型在昇腾310上推理,训练好的模型都是32位的,但是看昇腾310只支持int8和fp16的精度,那么在昇腾设备om模型实际上推理精度到底是多少?