接口列表
算子归属领域
算子接口可被归属为如下领域:
- aclnn_ops_infer:NN网络算子推理库
- aclnn_ops_train:NN网络算子训练库
- aclnn_math:数学算子库
- aclnn_rand:随机数算子库
其中推理库依赖数学库,训练库依赖推理库、数学库与随机库。
每个算子接口所属领域如下表所示。
| aclnn api | aclnn_ops_infer | aclnn_ops_train | aclnn_math | aclnn_rand |
|---|---|---|---|---|
| aclnnAddLayerNorm | 是 | 是 | 否 | 否 |
| aclnnAddLayerNormGrad | 否 | 是 | 否 | 否 |
| aclnnAddRmsNorm | 是 | 是 | 否 | 否 |
| aclnnAllGatherMatmul | 是 | 是 | 否 | 否 |
| aclnnAlltoAllAllGatherBatchMatMul | 是 | 是 | 否 | 否 |
| aclnnApplyRotaryPosEmb | 是 | 否 | 否 | 否 |
| aclnnBidirectionLSTM | 是 | 否 | 否 | 否 |
| aclnnBatchMatmulReduceScatterAlltoAll | 是 | 是 | 否 | 否 |
| aclnnDeepNorm | 是 | 是 | 否 | 否 |
| aclnnDeepNormGrad | 否 | 是 | 否 | 否 |
| aclnnDynamicQuant | 是 | 否 | 否 | 否 |
| aclnnEinsum | 是 | 否 | 否 | 否 |
| aclnnFFN(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFFNV2(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFFNV3(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFlashAttentionScore(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFlashAttentionScoreGrad(代码开放) | 否 | 是 | 否 | 否 |
| aclnnFlashAttentionScoreV2(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFlashAttentionScoreGradV2(代码开放) | 否 | 是 | 否 | 否 |
| aclnnFlashAttentionVarLenScore(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFlashAttentionVarLenScoreV2(代码开放) | 是 | 是 | 否 | 否 |
| aclnnFlashAttentionUnpaddingScoreGrad(代码开放) | 否 | 是 | 否 | 否 |
| aclnnFlashAttentionUnpaddingScoreGradV2(代码开放) | 否 | 是 | 否 | 否 |
| aclnnFusedInferAttentionScore(代码开放) | 是 | 否 | 否 | 否 |
| aclnnFusedInferAttentionScoreV2(代码开放) | 是 | 否 | 否 | 否 |
| aclnnGroupedMatmul | 是 | 否 | 否 | 否 |
| aclnnGroupedMatMulAllReduce | 是 | 否 | 否 | 否 |
| aclnnGroupedMatmulV2 | 是 | 否 | 否 | 否 |
| aclnnGroupedMatmulV3 | 是 | 否 | 否 | 否 |
| aclnnGroupedMatmulV4 | 是 | 否 | 否 | 否 |
| aclnnIncreFlashAttention(代码开放) | 是 | 否 | 否 | 否 |
| aclnnIncreFlashAttentionV2(代码开放) | 是 | 否 | 否 | 否 |
| aclnnIncreFlashAttentionV3(代码开放) | 是 | 否 | 否 | 否 |
| aclnnIncreFlashAttentionV4(代码开放) | 是 | 否 | 否 | 否 |
| aclnnInplaceQuantScatter | 是 | 否 | 否 | 否 |
| aclnnInstanceNorm | 是 | 否 | 否 | 否 |
| aclnnMatmulAllReduce | 是 | 否 | 否 | 否 |
| aclnnMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
| aclnnMatmulAllReduceV2 | 是 | 否 | 否 | 否 |
| aclnnMatmulReduceScatter | 是 | 是 | 否 | 否 |
| aclnnMoeFinalizeRouting | 是 | 是 | 否 | 否 |
| aclnnMoeGatingTopKSoftmax | 是 | 是 | 否 | 否 |
| aclnnMoeInitRouting | 是 | 是 | 否 | 否 |
| aclnnMoeTokenPermute | 否 | 是 | 否 | 否 |
| aclnnMoeTokenPermuteGrad | 否 | 是 | 否 | 否 |
| aclnnMoeTokenUnpermute | 否 | 是 | 否 | 否 |
| aclnnMoeTokenUnpermuteGrad | 否 | 是 | 否 | 否 |
| aclnnMrgbaCustom | 是 | 否 | 否 | 否 |
| aclnnMultiScaleDeformableAttentionGrad | 否 | 是 | 否 | 否 |
| aclnnPromptFlashAttention(代码开放) | 是 | 否 | 否 | 否 |
| aclnnPromptFlashAttentionV2(代码开放) | 是 | 否 | 否 | 否 |
| aclnnPromptFlashAttentionV3(代码开放) | 是 | 否 | 否 | 否 |
| aclnnQuantMatmulAllReduce | 是 | 否 | 否 | 否 |
| aclnnQuantMatmulAllReduceV2 | 是 | 否 | 否 | 否 |
| aclnnQuantMatmulAllReduceV3 | 是 | 否 | 否 | 否 |
| aclnnQuantMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
| aclnnRmsNorm | 是 | 是 | 否 | 否 |
| aclnnRmsNormGrad | 否 | 是 | 否 | 否 |
| aclnnRingAttentionUpdate | 否 | 是 | 否 | 否 |
| aclnnSwinTransformerLnQkvQuant | 是 | 否 | 否 | 否 |
| aclnnSwinAttentionScoreQuant | 是 | 否 | 否 | 否 |
| aclnnWeightQuantBatchMatmul | 是 | 否 | 否 | 否 |
| aclnnWeightQuantBatchMatmulV2 | 是 | 否 | 否 | 否 |
| aclnnWeightQuantMatmulAllReduce | 是 | 否 | 否 | 否 |
| aclnnWeightQuantMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
| aclRfft1D | 是 | 是 | 否 | 否 |
| aclStft | 是 | 是 | 否 | 否 |
废弃接口
| 废弃接口 | 说明 |
|---|---|
| 此接口后续版本会废弃,请使用 接口。 |