数据类型转换问题
收藏回复举报
数据类型转换问题
发表于2023-01-09 09:41:32
0 查看

Ascend平台下是否存在全局变量转换的操作?类似半精度一类的?

现在遇到一个数据类型转换的问题,在GPU下模型运行顺畅,Ascend下会出现数据类型不一致的问题,导致训练终止。为什么GPU平台下这些算子支持内部类型转换或者支持不同数据类型输入,但是Ascend下这些算子不可以。

即使采用net.to_float(mstype.float32),可以正常输出loss,但是速度十分缓慢,相同参数的GPU是他的3-5倍,理论上半精度会快很多

我要发帖子