昇腾社区首页
中文
注册

使用vNPU

在K8s场景,当用户需要使用vNPU资源时,可以通过结合集群调度组件Ascend Device Plugin的使用,使Kubernetes可以管理昇腾产品资源。昇腾虚拟化实例特性支持的产品型号情况如下表所示:

表1 昇腾虚拟化实例特性支持Ascend 910Atlas 推理系列产品产品型号

特性

需要的集群调度组件

Ascend 910 产品支持情况

Atlas 推理系列产品产品支持情况

静态虚拟化

Ascend Device Plugin

支持全部Ascend 910相关训练产品

Atlas 300I Pro 推理卡

volcano(可选)

Atlas 300V Pro 视频解析卡

hccl-controller(可选)

Atlas 300I Duo 推理卡

在静态虚拟化场景下,组件的可选性说明如下。
  • volcano:用户若使用自己的调度组件,需要进行参数配置,请参见表2 Ascend Device Plugin启动参数;用户也可直接使用该组件进行任务调度。
  • hccl-controller:在使用Ascend 910 时才需要选择该组件;使用Atlas 推理系列产品时可不选择。