华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
我看mindie-rt里面有一个ATB_LAUNCH_KERNEL_WITH_TILING,意思应该是让tinling参数随算子启动一起打包下发,而不用单独aclrtMemcpy。想问这个的底层机制是什么呢?自定义算子该如何实现这个方式呢?
本帖最后由 匿名用户 于 2024/08/22 08:37:50 编辑
我要发帖子
我看mindie-rt里面有一个ATB_LAUNCH_KERNEL_WITH_TILING,意思应该是让tinling参数随算子启动一起打包下发,而不用单独aclrtMemcpy。想问这个的底层机制是什么呢?自定义算子该如何实现这个方式呢?