接口功能:实现分组矩阵乘计算,每组矩阵乘的维度大小可以不同。基本功能为矩阵乘,如,其中g为分组个数,为对应shape。输入输出数据类型均为aclTensor,K轴分组。
- k轴分组:各不相同,但每组相同。
计算公式:
每个算子分为,必须先调用“aclnnGroupedMatmulAddGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“aclnnGroupedMatmulAdd”接口执行计算。
[object Object]
[object Object]
参数说明:
[object Object]Atlas 350 加速卡:
- 上表维度列中的角标“1”代表该系列不支持的数据类型。
返回值:
第一段接口完成入参校验,出现以下场景时报错:
[object Object]
- aclnnGroupedMatmulAdd默认确定性实现。
- x和weight中每一组tensor的每一维大小在32字节对齐后都应小于INT32的最大值2147483647。
- 支持的输入类型为:
- x为FLOAT16、weight为FLOAT16、y为FLOAT32。
- x为BFLOAT16、weight为BFLOAT16、y为FLOAT32。
[object Object]