AscendC算子开放能力认证过不了,sigmoid算子有什么精度优化的方法
收藏回复举报
AscendC算子开放能力认证过不了,sigmoid算子有什么精度优化的方法
t('forum.solved') 已解决
发表于2025-07-20 09:21:52
0 查看

用了4种方法尝试结果精度都过不了,第一种就是用基础API,单目指令和标量双目指令过不了。第二种是在第一种基础上用精度转换指令Cast由half转为float32在转会half提高计算精度roundMode用的是CastNone,但是精度还是不行。第三种是直接用高阶SigmoidAPI,但时自带的高阶api的精度也不行。第四种是在论坛上看到的已经通过AscendC认证的方法,就是将标量用数据填充Duplicate转化为矢量再用Div求倒数,但是精度也不行。还用什么优化精度的方法,😫

%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202025-07-19%20083537.png

我要发帖子