【2023 · CANN训练营第一季】昇腾AI入门课(TensorFlow)昇腾异构计算架构CANN的逻辑架构
昇腾异构计算架构CANN的逻辑架构:
昇腾计算服务层,提供了高性能的算子库AOL,以及昇腾调优引擎AOE,是昇腾AI处理器能够支持多种多样的人工智能算法、并优化执行性能的基础
昇腾计算编译层,通过图编译器将用户输入中间表达(intermediate Representataion, IR)的计算图编译成昇腾硬件可执行模型
昇腾计算执行层,负责模型和算子的执行,提供运行时库(Runtim)、图执行器(Graph Executor)、数字视觉预处理(Digital Vision Pre-Processing, DVPP)、人工智能预处理(Artificial Intelligence Pre-Processing, AIPP)等功能单元
昇腾计算基础层,主要为其上各层提供基础服务,如共享虚拟内存(Shared Virtual Memory, SVM)、设备虚拟化(Virtual Machine, VM)、主机-设备通信(Host Device Communication, HDC)等

【2023 · CANN训练营第一季】昇腾AI入门课(TensorFlow)昇腾异构计算架构CANN的逻辑架构
昇腾异构计算架构CANN的逻辑架构:
昇腾计算服务层,提供了高性能的算子库AOL,以及昇腾调优引擎AOE,是昇腾AI处理器能够支持多种多样的人工智能算法、并优化执行性能的基础
昇腾计算编译层,通过图编译器将用户输入中间表达(intermediate Representataion, IR)的计算图编译成昇腾硬件可执行模型
昇腾计算执行层,负责模型和算子的执行,提供运行时库(Runtim)、图执行器(Graph Executor)、数字视觉预处理(Digital Vision Pre-Processing, DVPP)、人工智能预处理(Artificial Intelligence Pre-Processing, AIPP)等功能单元
昇腾计算基础层,主要为其上各层提供基础服务,如共享虚拟内存(Shared Virtual Memory, SVM)、设备虚拟化(Virtual Machine, VM)、主机-设备通信(Host Device Communication, HDC)等