华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
用了4种方法尝试结果精度都过不了,第一种就是用基础API,单目指令和标量双目指令过不了。第二种是在第一种基础上用精度转换指令Cast由half转为float32在转会half提高计算精度roundMode用的是CastNone,但是精度还是不行。第三种是直接用高阶SigmoidAPI,但时自带的高阶api的精度也不行。第四种是在论坛上看到的已经通过AscendC认证的方法,就是将标量用数据填充Duplicate转化为矢量再用Div求倒数,但是精度也不行。还用什么优化精度的方法,😫
我要发帖子
用了4种方法尝试结果精度都过不了,第一种就是用基础API,单目指令和标量双目指令过不了。第二种是在第一种基础上用精度转换指令Cast由half转为float32在转会half提高计算精度roundMode用的是CastNone,但是精度还是不行。第三种是直接用高阶SigmoidAPI,但时自带的高阶api的精度也不行。第四种是在论坛上看到的已经通过AscendC认证的方法,就是将标量用数据填充Duplicate转化为矢量再用Div求倒数,但是精度也不行。还用什么优化精度的方法,😫