接口列表
算子归属领域
算子接口可被归属为如下领域:
- aclnn_ops_infer:NN网络算子推理库
- aclnn_ops_train:NN网络算子训练库
- aclnn_math:数学算子库
- aclnn_rand:随机数算子库
其中推理库依赖数学库,训练库依赖推理库、数学库与随机库。
每个算子接口所属领域如下表所示。
aclnn api | aclnn_ops_infer | aclnn_ops_train | aclnn_math | aclnn_rand |
---|---|---|---|---|
aclnnAddLayerNorm | 是 | 是 | 否 | 否 |
aclnnAddLayerNormGrad | 否 | 是 | 否 | 否 |
aclnnAddRmsNorm | 是 | 是 | 否 | 否 |
aclnnAllGatherMatmul | 是 | 是 | 否 | 否 |
aclnnAlltoAllAllGatherBatchMatMul | 是 | 是 | 否 | 否 |
aclnnApplyRotaryPosEmb | 是 | 否 | 否 | 否 |
aclnnBidirectionLSTM | 是 | 否 | 否 | 否 |
aclnnBatchMatmulReduceScatterAlltoAll | 是 | 是 | 否 | 否 |
aclnnDeformableConv2dBackward | 否 | 是 | 否 | 否 |
aclnnDeepNorm | 是 | 是 | 否 | 否 |
aclnnDeepNormGrad | 否 | 是 | 否 | 否 |
aclnnDynamicQuant | 是 | 否 | 否 | 否 |
aclnnEinsum | 是 | 否 | 否 | 否 |
aclnnFFN | 是 | 是 | 否 | 否 |
aclnnFFNV2 | 是 | 是 | 否 | 否 |
aclnnFFNV3 | 是 | 是 | 否 | 否 |
aclnnFlashAttentionScore | 是 | 是 | 否 | 否 |
aclnnFlashAttentionScoreGrad | 否 | 是 | 否 | 否 |
aclnnFlashAttentionScoreV2 | 是 | 是 | 否 | 否 |
aclnnFlashAttentionScoreGradV2 | 否 | 是 | 否 | 否 |
aclnnFlashAttentionVarLenScore | 是 | 是 | 否 | 否 |
aclnnFlashAttentionVarLenScoreV2 | 是 | 是 | 否 | 否 |
aclnnFlashAttentionUnpaddingScoreGrad | 否 | 是 | 否 | 否 |
aclnnFlashAttentionUnpaddingScoreGradV2 | 否 | 是 | 否 | 否 |
aclnnFusedInferAttentionScore | 是 | 否 | 否 | 否 |
aclnnFusedInferAttentionScoreV2 | 是 | 否 | 否 | 否 |
aclnnGroupedMatmul | 是 | 否 | 否 | 否 |
aclnnGroupedMatMulAllReduce | 是 | 否 | 否 | 否 |
aclnnGroupedMatmulV2 | 是 | 否 | 否 | 否 |
aclnnGroupedMatmulV3 | 是 | 否 | 否 | 否 |
aclnnGroupedMatmulV4 | 是 | 否 | 否 | 否 |
aclnnIncreFlashAttention | 是 | 否 | 否 | 否 |
aclnnIncreFlashAttentionV2 | 是 | 否 | 否 | 否 |
aclnnIncreFlashAttentionV3 | 是 | 否 | 否 | 否 |
aclnnIncreFlashAttentionV4 | 是 | 否 | 否 | 否 |
aclnnInplaceQuantScatter | 是 | 否 | 否 | 否 |
aclnnInstanceNorm | 是 | 否 | 否 | 否 |
aclnnMatmulAllReduce | 是 | 否 | 否 | 否 |
aclnnMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
aclnnMatmulAllReduceV2 | 是 | 否 | 否 | 否 |
aclnnMatmulReduceScatter | 是 | 是 | 否 | 否 |
aclnnMoeFinalizeRouting | 是 | 是 | 否 | 否 |
aclnnMoeGatingTopKSoftmax | 是 | 是 | 否 | 否 |
aclnnMoeInitRouting | 是 | 是 | 否 | 否 |
aclnnMoeTokenPermute | 否 | 是 | 否 | 否 |
aclnnMoeTokenPermuteGrad | 否 | 是 | 否 | 否 |
aclnnMoeTokenUnpermute | 否 | 是 | 否 | 否 |
aclnnMoeTokenUnpermuteGrad | 否 | 是 | 否 | 否 |
aclnnMrgbaCustom | 是 | 否 | 否 | 否 |
aclnnMultiScaleDeformableAttentionGrad | 否 | 是 | 否 | 否 |
aclnnPromptFlashAttention | 是 | 否 | 否 | 否 |
aclnnPromptFlashAttentionV2 | 是 | 否 | 否 | 否 |
aclnnPromptFlashAttentionV3 | 是 | 否 | 否 | 否 |
aclnnQuantMatmulAllReduce | 是 | 否 | 否 | 否 |
aclnnQuantMatmulAllReduceV2 | 是 | 否 | 否 | 否 |
aclnnQuantMatmulAllReduceV3 | 是 | 否 | 否 | 否 |
aclnnQuantMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
aclnnRmsNorm | 是 | 是 | 否 | 否 |
aclnnRmsNormGrad | 否 | 是 | 否 | 否 |
aclnnRingAttentionUpdate | 否 | 是 | 否 | 否 |
aclnnSwinTransformerLnQkvQuant | 是 | 否 | 否 | 否 |
aclnnSwinAttentionScoreQuant | 是 | 否 | 否 | 否 |
aclnnStressDetect | 否 | 是 | 否 | 否 |
aclnnStressDetectWithPressure | 否 | 是 | 否 | 否 |
aclnnStressDetectRecover | 否 | 是 | 否 | 否 |
aclnnWeightQuantBatchMatmul | 是 | 否 | 否 | 否 |
aclnnWeightQuantBatchMatmulV2 | 是 | 否 | 否 | 否 |
aclnnWeightQuantMatmulAllReduce | 是 | 否 | 否 | 否 |
aclnnWeightQuantMatmulAllReduceAddRmsNorm | 是 | 否 | 否 | 否 |
aclRfft1D | 是 | 是 | 否 | 否 |
废弃接口
废弃接口 | 说明 |
---|---|
aclnnWeightQuantBatchMatmul | 此接口后续版本会废弃,请使用 aclnnWeightQuantBatchMatmulV2接口。 |