迁移操作

约束

• 由于自动迁移工具使用了Python的动态特性，但torch.jit.script不支持Python的动态语法，因此用户原训练脚本中包含torch.jit.script时使用自动迁移功能会产生冲突。目前自动迁移时会屏蔽torch.jit.script功能，若用户脚本中必须使用torch.jit.script功能，请使用PyTorch GPU2Ascend工具迁移进行迁移。
• 当前自动迁移暂不支持channel_last特性，建议用户使用contiguous进行替换。
• 自动迁移工具与昇腾已适配的三方库可能存在功能冲突，若发生冲突，请使用PyTorch GPU2Ascend工具迁移进行迁移。
• 仅支持PyTorch 1.11.0版本及以上使用。
• 若原脚本中使用的backend为nccl，在init_process_group初始化进程组后，backend已被自动迁移工具替换为hccl。如果后续代码逻辑包含backend是否为nccl的判断，例如assert backend in ['gloo', 'nccl']、if backend == 'nccl'，请手动将字符串nccl改写为hccl。

迁移操作

1. 导入自动迁移的库代码。

   在训练入口.py文件的首行，插入以下引用内容。例如train.py中的首行插入以下引用内容。

   import torch
   import torch_npu
   from torch_npu.contrib import transfer_to_npu   
   .....

2. 完成迁移。

   若迁移失败，请参考迁移异常处理进行解决。

3. 请参考后续操作及原始脚本提供的训练流程，在昇腾NPU平台直接运行修改后的模型脚本。
4. 成功保存权重，说明保存权重功能迁移成功。

迁移异常处理

• 如果模型包含评估、在线推理功能，也可在对应脚本中导入自动迁移库代码，并通过对比评估推理结果和日志打印情况，判断与GPU、CPU是否一致决定是否迁移成功。
• 若训练过程中提示部分cuda接口报错，可能是部分API（算子API或框架API）不支持引起，用户可参考以下方案进行解决。
  • 使用分析迁移工具对模型脚本进行分析，获得支持情况存疑的API列表，进入昇腾开源社区提出ISSUE求助；
  • Ascend C算子请参考《Ascend C自定义算子开发指南》中的PyTorch框架章节；或参考《TBE&AI CPU算子开发指南》中的“算子开发过程 > 算子适配 > 适配插件开发（PyTorch框架）”进行算子适配。
  • 将部分不支持的API移动至CPU运行，方法如下：
    1. 参见《Ascend Extension for PyTorch 配置与安装》> 安装PyTorch框架章节获取Ascend PyTorch源码包。
    2. 进入获取后的源码包目录，修改“npu_native_functions.yaml”。

       cd pytorch/torch_npu/csrc/aten
       vi npu_native_functions.yaml

       在“tocpu”配置下添加算子API名称。

       tocpu:
         - angle
         - mode
         - nanmedian.dim_values
         - nansum
         - native_dropout
         - native_dropout_backward
         - poisson
         - vdot
         - view_as_complex
         - view_as_real

    3. 参见《Ascend Extension for PyTorch 配置与安装》> 安装PyTorch框架章节重新编译框架插件包并安装。
    4. 重新执行迁移后的训练脚本，确认模型是否能正常训练。