默认情况下,昇腾NPU的自定义算子无法正常入图PyTorch,为了能够以图模式使能这些自定义算子,TorchAir提供了一种插件化入图方式。该方式借助PyTorch原生注册机制,无需重新编译Ascend Extension for PyTorch的torch_npu和TorchAir就能完成算子入图,方便用户进行后续算子调试或将自定义算子模块作为插件使用。 目前昇腾提供了基于Ascend C自定义算子开发方式,本章将详细阐述如何以插件化方式实现自定义NPU算子入图,入图流程具体参见图1。 环境准备。参考安装,完成配套版本的CANN、PyTorch、torch_npu安装。 算子开发和部署。基于