算子中如何输出nan格式
收藏回复举报
算子中如何输出nan格式
t('forum.solved') 已解决
发表于2024-05-14 07:51:30
0 查看
int16_t __NaN = 0xFFF0;
    half NaN=*((half *)&__NaN);
    Adds(tempTensor14,tempTensor14,NaN,this->tileLength);
  • 这样输出都为0,使用0.0/0.0输出也为0,如何解决算子计算中输出为NAN问题

我要发帖子