华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
假如我有一个local tensor维度为[128,256],每行只有一个有效数据,其他数据为0。
我该如何配置SoftmaxFlashV2的入参从而对这个tensor求softmax flash呢?在SoftmaxFlashV2的接口接口里没看见指定输入数据有效数据个数的入参。
我要发帖子
假如我有一个local tensor维度为[128,256],每行只有一个有效数据,其他数据为0。
我该如何配置SoftmaxFlashV2的入参从而对这个tensor求softmax flash呢?在SoftmaxFlashV2的接口接口里没看见指定输入数据有效数据个数的入参。