华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
我在使用CANN进行自定义算子开发时遇到了一个棘手的内存越界问题。算子在单次推理时结果正常,但在循环多次调用后会出现随机性的计算错误,有时候甚至导致进程崩溃。我已经检查过输入输出的内存分配,看起来都是按照规范申请的,但问题依然存在。想请教有经验的朋友,在CANN算子开发中有什么高效的方法可以定位这类内存越界问题?特别是涉及到Tiling和流水并行时,如何确保内存访问的正确性?
我要发帖子
我在使用CANN进行自定义算子开发时遇到了一个棘手的内存越界问题。算子在单次推理时结果正常,但在循环多次调用后会出现随机性的计算错误,有时候甚至导致进程崩溃。我已经检查过输入输出的内存分配,看起来都是按照规范申请的,但问题依然存在。想请教有经验的朋友,在CANN算子开发中有什么高效的方法可以定位这类内存越界问题?特别是涉及到Tiling和流水并行时,如何确保内存访问的正确性?