能否使用自定义算子替换多个aclnn算子,实现一次搬运入多次计算从而降低耗时
收藏回复举报
能否使用自定义算子替换多个aclnn算子,实现一次搬运入多次计算从而降低耗时
t('forum.solved') 已解决
发表于2024-10-22 09:54:47
0 查看

1. 从api_static统计信息看GetWorkspaceSize耗时很长想请教下这里面有哪些操作耗时

2. 我需要执行多个aclnn算子,目前看会执行多次GetWorkspaceSize;是否意味着或有多次搬入和tiling

3. 能否使用自定义算子执行一次搬入和tilling多次计算,从而降低整体计算时延

Level    API Name                Time(us)    Count 

acl    aclnnGemm                    549581.36    6501 

acl    aclnnGemmGetWorkspaceSize    70827.46    6501 

acl    aclnnMul                    112218.62    13003 

acl    aclnnMulGetWorkspaceSize    108679.03    13003

本帖最后由 匿名用户 于 2024/10/22 10:07:10 编辑

我要发帖子