虚拟化实例功能是指通过资源虚拟化的方式将物理机或虚拟机配置的NPU切分成若干份vNPU(虚拟NPU)挂载到容器中使用,虚拟化管理能够实现统一不同规格资源的分配和回收处理,满足多用户反复申请/释放资源的操作请求。
昇腾虚拟化实例功能的优点是可实现多个用户按需申请共同使用一台服务器,降低了用户使用NPU算力的门槛和成本。多个用户共同使用一台服务器的NPU,并借助容器进行资源隔离,资源隔离性好,保证运行环境的平稳和安全,且资源分配,资源回收过程统一,方便多租户管理。
关于虚拟化实例特性的详细介绍请参见虚拟化实例章节。
产品系列 |
支持的场景 |
虚拟化方式 |
是否支持 |
---|---|---|---|
Atlas 推理系列产品 |
在物理机划分vNPU,挂载vNPU到容器 |
静态虚拟化 动态虚拟化 |
是 |
Atlas 推理系列产品
|
在物理机划分vNPU,挂载vNPU到虚拟机 |
静态虚拟化 |
是 |
Atlas 推理系列产品
|
在物理机划分vNPU,挂载vNPU到虚拟机,在虚拟机内将vNPU挂载到容器 |
静态虚拟化 |
是 |
Atlas 推理系列产品
|
在物理机直通NPU到虚拟机,在虚拟机内划分vNPU,再将vNPU挂载到虚拟机内的容器 |
静态虚拟化 动态虚拟化 |
是 |
Atlas 800 训练服务器 |
在物理机划分vNPU,挂载vNPU到虚拟机 |
静态虚拟化 |
是 |
Atlas 训练系列产品 |
在物理机划分vNPU,挂载vNPU到容器 |
静态虚拟化 动态虚拟化 |
是 |
Atlas A2 训练系列产品 |
- |
- |
否 |
Atlas A3 训练系列产品 |
- |
- |
否 |
Atlas 800I A2推理产品 |
- |
- |
否 |
A200I A2 Box 异构组件 |
- |
- |
否 |
Atlas 200/300/500 推理产品 |
- |
- |
否 |
Atlas 200I/500 A2 推理产品 |
- |
- |
否 |
查询和设置NPU芯片工作模式的详细介绍请参见《Atlas 800 训练服务器 iBMC用户指南(型号 9000)》中的“命令行介绍 > 服务器命令 > 查询和设置NPU芯片工作模式(npuworkmode)”章节。