华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
昇腾论坛
0
/100
支持
消息
我的论坛主页
论坛首页
/
fp32计算正常,fp16计算异常
点赞
0
收藏
0
回复
0
分享
举报
只看楼主
fp32计算正常,fp16计算异常
已解决
发表于2024-11-14 23:09:21
0
查看
我生成32个fp32测试数据, 正确值是32个数据, 真实计算数据也是32个数据, 但是生成32个fp16测试数据时, 真实计算数据却变成了64个数据, 导致验证计算结果时数据大小匹配不上, 这有哪些可能的原因.
匿名回复
发表
我要发帖子
我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。
查看详情