开发者
资源
[object Object]

模型能否成功迁移至昇腾AI处理器,主要取决于其使用的算子是否被昇腾平台支持。为保证迁移可行性,迁移前可使用如下方法进行分析:

  1. 若模型原始代码中调用了模型套件或第三方库,需要关注NPU对其的支持情况。

    • 如果该三方库原生支持NPU,用户需要关注NPU目前对库中特性的支持情况;
    • 如果是昇腾适配的第三方库,用户需要额外安装该库的昇腾适配版本,并关注其适配情况。详细昇腾第三方库支持情况请参考《》。如果用户希望以上第三方库和模型套件在适配昇腾设备后能达到更高的性能,可以自行调优。
  2. 确认是否存在以下已知的不支持场景:

    表 1 不支持场景列表

    [object Object]undefined
  3. 借助PyTorch Analyse工具,分析基于GPU平台的PyTorch训练脚本中三方库套件、API、动态shape以及亲和API分析在昇腾AI处理器上的支持情况,具体可参见表2,工具使用详细指导可参见《》。

    表 2 分析模式介绍

    [object Object]

    在迁移可行性分析中如果存在平台未支持的算子,可参考如下方法进行算子适配:

    • 修改模型脚本使用等价支持的算子替换;
    • 算子开发与适配,算子开发相关请参见《》或《》,算子适配请参见《PyTorch 框架特性指南》中的“”章节;
    • 联系华为工程师提出开发适配诉求。