异构编译概述

昇腾AI处理器采用Host + Device的异构架构：

• Host侧：运行在通用CPU（x86或aarch64）上，负责设备初始化、内存申请与数据搬运、Kernel调度，以及结果回收。Host侧代码通过CANN Runtime API（如aclInit、aclrtMalloc、aclrtMemcpy等）与设备交互。
• Device侧：运行在昇腾AI处理器上，负责实际计算。Device侧代码以Kernel函数形式存在，由Host侧通过<<<>>>语法异步启动。
  • AICore： AI Core 设备代码，AI Core是AI处理器的计算核心，提供Cube、Vector计算能力。
  • AICPU： AI CPU 设备代码，AI CPU是ARM64架构的处理器，通常作为AI Core的补充，主要承担非矩阵类、逻辑比较复杂的分支密集型计算。

毕昇编译器的核心能力，就是将Host与Device代码识别、编译并链接为可在目标环境运行的二进制产物。