昇腾社区首页
中文
注册

注意事项

版本配套

使用MindIE的推理引擎调用ATB加速库的场景:

  • CANN版本≥8.0.0且MindIE版本≥1.0.0时,直接使用MindIE的推理引擎调用ATB加速库。在需要回退CANN版本时,回退后的CANN版本不能<8.0.0。
  • CANN版本<8.0.0或MindIE版本<1.0.0时,在需要升级或者回退CANN版本时,请基于目标CANN版本重新编译调用ATB的程序,才能正常使用ATB加速库。

支持的产品型号

Atlas 200I/500 A2 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

Atlas A3 推理系列产品/Atlas A3 训练系列产品

算子默认支持的产品型号为Atlas 推理系列产品Atlas A2 训练系列产品/Atlas 800I A2 推理产品Atlas A3 推理系列产品/Atlas A3 训练系列产品,实际以算子产品支持情况为准。

算子说明

  • Atlas 推理系列产品 中不支持ACL_BF16(bf16)类型数据。
  • 通信算子BroadcastOperation的LCCL功能不支持Atlas A3 推理系列产品/Atlas A3 训练系列产品,LinearParallelOperation的LCCL功能仅在8卡及8卡以下支持Atlas A3 推理系列产品/Atlas A3 训练系列产品,其他算子功能若支持Atlas A2 训练系列产品/Atlas 800I A2 推理产品,则同时也支持Atlas A3 推理系列产品/Atlas A3 训练系列产品