fp32计算正常,fp16计算异常
收藏回复举报
fp32计算正常,fp16计算异常
t('forum.solved') 已解决
发表于2024-11-14 23:09:21
0 查看
我生成32个fp32测试数据, 正确值是32个数据, 真实计算数据也是32个数据, 但是生成32个fp16测试数据时, 真实计算数据却变成了64个数据, 导致验证计算结果时数据大小匹配不上, 这有哪些可能的原因.

我要发帖子