昇腾社区首页
中文
注册

迁移准备

模型选取

在选取模型时,尽可能选取权威PyTorch模型实现仓作为标杆,包括但不限于PyTorch(imagenet/vision等)、facebookresearch(Detectron/detectron2等)和open-mmlab(mmdetection/mmpose等)。

若用户没有模型迁移相关的经验,建议先基于PyTorch官网提供的Imagenet数据集训练脚本main.py,根据模型迁移中的迁移流程,理解一下迁移的要点和方法。

模型移植评估

模型是否可以迁移成功主要取决于模型算子是否支持昇腾AI处理器,故需要对模型算子对昇腾AI处理器的支持性进行评估。

  • 模型迁移前,查看算子适配情况。将原始模型及训练脚本迁移到昇腾AI处理器上之前,可以将原始模型及训练脚本在CPU上进行训练,使用PyTorch profiler功能获取当前模型算子列表并在支持Caffe&TensorFlow&ONNX&PyTorch算子清单中查找该算子查看是否支持,PyTorch profiler功能获取算子信息请参见dump op方法
  • 模型迁移后,在昇腾设备上进行运行训练脚本。若存在不支持昇腾AI设备的算子,会提示报错信息。
  • 当有不支持算子时,可修改模型脚本用等价支持的算子替换不支持算子或者参考算子开发指南算子开发过程>算子适配>适配插件开发(PyTorch框架)进行算子适配。