昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用。
msFmkTransplt工具提供PyTorch Analyse工具,帮助用户分析PyTorch训练脚本的API、三方库API、亲和API分析以及动态shape的支持情况。同时提供了自动迁移和PyTorch GPU2Ascend工具两种迁移方式,将基于GPU的脚本迁移为基于NPU的脚本,这种自动化方法节省了人工手动进行脚本迁移的学习成本与工作量,大幅提升了迁移效率。
两种迁移方式的区别如下: