华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1、自开发算子的精度如何评判?
2、与何种方式计算的结果进行对比能够判定算子精度合格,例如:numpy实现、GPU等
3、针对fp16和fp32等不同的数据类型精度误差的阈值又该如何确定,对比的具体方式是什么
我要发帖子
1、自开发算子的精度如何评判?
2、与何种方式计算的结果进行对比能够判定算子精度合格,例如:numpy实现、GPU等
3、针对fp16和fp32等不同的数据类型精度误差的阈值又该如何确定,对比的具体方式是什么