自开发算子精度测试
收藏回复举报
自开发算子精度测试
t('forum.solved') 已解决
发表于2024-07-15 14:33:07
0 查看

1、自开发算子的精度如何评判?

2、与何种方式计算的结果进行对比能够判定算子精度合格,例如:numpy实现、GPU等

3、针对fp16和fp32等不同的数据类型精度误差的阈值又该如何确定,对比的具体方式是什么

我要发帖子