华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
Ascend平台下是否存在全局变量转换的操作?类似半精度一类的?
现在遇到一个数据类型转换的问题,在GPU下模型运行顺畅,Ascend下会出现数据类型不一致的问题,导致训练终止。为什么GPU平台下这些算子支持内部类型转换或者支持不同数据类型输入,但是Ascend下这些算子不可以。
即使采用net.to_float(mstype.float32),可以正常输出loss,但是速度十分缓慢,相同参数的GPU是他的3-5倍,理论上半精度会快很多
我要发帖子
Ascend平台下是否存在全局变量转换的操作?类似半精度一类的?
现在遇到一个数据类型转换的问题,在GPU下模型运行顺畅,Ascend下会出现数据类型不一致的问题,导致训练终止。为什么GPU平台下这些算子支持内部类型转换或者支持不同数据类型输入,但是Ascend下这些算子不可以。
即使采用net.to_float(mstype.float32),可以正常输出loss,但是速度十分缓慢,相同参数的GPU是他的3-5倍,理论上半精度会快很多