模型调用算子未实现反向,如何前向放npu, 反向放到CPU
收藏回复举报
模型调用算子未实现反向,如何前向放npu, 反向放到CPU
t('forum.solved') 已解决
发表于2024-08-06 14:41:34
0 查看

我这边有对cann的内置前向算子做调优,但是只实现了前向部分,反向没有实现。跑模型的时候,如何使用我们自己的前向算子,反向还用cann内置的反向算子?另外在模型层面有办法设置吗?

另外还有遇到模型没有反向算子,只有前向算子,没有反向算子,比如torch.stft, 这种如何把前向放到NPU上计算,反向放到CPU上计算?是否有相关文档可以参考。

我要发帖子