昇腾NPU硬件资源主要包括AICore(用于AI模型计算)、AICPU和内存等。基于HDK的虚拟化实例功能的核心原理是:根据用户指定的资源需求,将上述硬件资源划分出vNPU,每个vNPU对应若干AICore、AICPU、内存、DVPP等资源。例如,用户只需4个AICore的算力时,系统会创建一个vNPU,通过该vNPU从NPU芯片获取4个AICore提供给容器使用。基于HDK的虚拟化实例方案如图1 基于HDK的虚拟化实例方案所示。 图 1 基于HDK的虚拟化实例方案