领域加速库

若使用非MindIE的推理引擎直接调用ATB加速库，在需要升级或者回退CANN版本（涉及8.0.RC2及以后版本）时，请基于目标CANN版本重新编译调用程序，才能正常使用ATB加速库。

新增特性

类名/API原型	变更说明
AllGatherVOperation	新增OP。
AllToAllVV2Operation	新增OP。
CohereLayerNormOperation	新增OP。
FaUpdateOperation	新增OP。
FusedAddTopkDivOperation	新增OP。
GatherPreRmsNormOperation	新增OP。
LayerNormWithStrideOperation	新增OP。
MlaPreprocessOperation	新增OP。
MultiLatentAttentionOperation	新增OP。
NormRopeReshapeOperation	新增OP。
ReduceScatterVOperation	新增OP。
RelayAttentionOperation	新增OP。
ReshapeAndCacheOmniOperation	新增OP。
ReshapeAndCacheWithStrideOperation	新增OP。
RmsNormWithStrideOperation	新增OP。
RopeQConcatOperation	新增OP。
SwigluQuantOperation	新增OP。
atb/operation.h SetExecuteStreamId GetExecuteStreamId atb/operation_infra.h	新增图内多流并行特性。
atb/comm.h	支持创建和删除通信域。
atb/common_op_params.h	新增图间同步特性。
ATB Python API使用说明	新增python使用说明。

修改特性

类名/API原型	变更说明
atb/infer_op_params.h/QuantType	枚举项QUANT_UNDEFINED变更为QUANT_UNQUANT，QUANT_UNDEFINED将在后续版本删除。
AllReduceOperation	其内部枚举类QuantType中枚举项QUANT_TYPE_UNDEFINED变更为QUANT_TYPE_UNQUANT，QUANT_TYPE_UNDEFINED将在后续版本删除。
LinearParallelOperation	其内部枚举类QuantType中枚举项QUANT_TYPE_UNDEFINED变更为QUANT_TYPE_UNQUANT，QUANT_TYPE_UNDEFINED将在后续版本删除。
PagedAttentionOperation	其内部枚举类QuantType中枚举项TYPE_QUANT_UNDEFINED变更为TYPE_QUANT_UNQUANT，TYPE_QUANT_UNDEFINED将在后续版本删除。
SelfAttentionOperation	其内部枚举类QuantType中枚举项TYPE_QUANT_UNDEFINED变更为TYPE_QUANT_UNQUANT，TYPE_QUANT_UNDEFINED将在后续版本删除。

父主题： 新增特性