部署完addcustom算子安装包后,用pytorch实现了调用,但是速度却变慢了
收藏回复举报
部署完addcustom算子安装包后,用pytorch实现了调用,但是速度却变慢了
t('forum.solved') 已解决
发表于2024-05-28 08:26:55
0 查看
具体就是将
return x + self.cv2(self.cv1(x))
修改为如下
return torch_npu.npu_add_custom(x.npu(), self.cv2(self.cv1(x)).npu()).cpu()

但是花的时间多了一点,具体应该是出在哪一步使得调用时间增加了呢,要怎么去逐步筛查调用的时间损耗?要如何优化?

我要发帖子