配置NPU共享模式

Atlas 500 智能小站和Atlas 200 RC场景支持NPU共享模式,即支持多个容器共享同一块芯片的NPU资源,这样同一块芯片可以运行多个容器跑不同的推理业务。默认关闭NPU共享模式,可以通过以下两种方式开启NPU共享模式:

  • Atlas 500 智能小站的NPU共享模式支持配置持久化。
  • Atlas 200 RC场景的NPU共享模式不支持配置持久化,设备复位后需要重新配置。
  • 关闭NPU共享模式后,容器将会以独占的方式占用NPU,会对容器运行产生影响,请谨慎操作。
  • 如果版本回退到不支持NPU共享模式的版本(MindX Edge V100R020C10版本及之前版本),不能保证回退前部署的共享同一NPU资源的多个容器在回退后正常运行,请谨慎操作。