自动迁移方式

使用约束

• 由于自动迁移工具使用了Python的动态特性，但torch.jit.script不支持Python的动态语法，因此用户原训练脚本中包含torch.jit.script时使用自动迁移功能会产生冲突。目前自动迁移时会屏蔽torch.jit.script功能，若用户脚本中必须使用torch.jit.script功能，请使用PyTorch GPU2Ascend工具迁移方式进行迁移。
• 自动迁移工具与昇腾已适配的三方库可能存在功能冲突，若发生冲突，请使用PyTorch GPU2Ascend工具迁移方式进行迁移。
• 当前自动迁移暂不支持channel_last特性，建议用户使用contiguous进行替换。
• 若原脚本中使用的backend为nccl，在init_process_group初始化进程组后，backend已被自动迁移工具替换为hccl。如果后续代码逻辑包含backend是否为nccl的判断，例如assert backend in ['gloo', 'nccl']、if backend == 'nccl'，请手动将字符串nccl改写为hccl。
• 若用户训练脚本中包含昇腾NPU平台不支持的torch.cuda.default_generators接口，需要手动修改为torch_npu.npu.default_generators接口。

迁移操作

1. 导入自动迁移的库代码。

   在训练入口.py文件的首行，插入以下引用内容。例如train.py中的首行插入以下引用内容。

   import torch
   import torch_npu
   from torch_npu.contrib import transfer_to_npu   
   .....

2. 迁移操作完成。请参考训练配置及原始脚本提供的训练流程，在昇腾NPU平台直接运行修改后的模型脚本。
3. 训练完成后，迁移工具自动保存权重成功，说明迁移成功。若迁移失败，请参考迁移异常处理进行解决。

迁移异常处理

• 如果模型包含评估、在线推理功能，也可在对应脚本中导入自动迁移库代码，并通过对比评估推理结果和日志打印情况，判断与GPU、CPU是否一致决定是否迁移成功。
• 若训练过程中提示部分CUDA接口报错，可能是部分API（算子API或框架API）不支持引起，用户可参考以下方案进行解决。
  • 使用分析迁移工具对模型脚本进行分析，获得支持情况存疑的API列表，进入昇腾开源社区提出ISSUE求助。
  • Ascend C算子请参考基于OpPlugin算子适配开发《Ascend Extension for PyTorch 套件与三方库支持清单》中的“套件与三方库支持清单 > 昇腾自研插件 > 基于OpPlugin算子适配开发”章节进行算子适配。