- 1.310P RC场景下能否使用vNpu
-
vNpu创建以后,划分成多个vNpu设备以后;能否把vNpu当做成独立NPU设备,类似于3588芯片上3个NPU设备的概念,模型加载过程中可以指定模型所需的NPU资源;如果根据vNpu个数创建多个线程,每个线程使用单独vNpu设备加载单独模型,这些线程内的模型推理是否是同时运行?(目前我们未做vNPU划分时,使用2个线程加载不同模型,A线程模型推理结束以后,才会跑B线程的模型推理)
-
如果310P按照下图虚拟化实例模板vir01、vir02、vir04进行划分,是否只是使用了AI Core资源,DVPP和DATA CPU未被使用;业务流程里面还需要使其他资源,当vNpu算力切分以后,是否会影响DVPP、DATA CPU、数据搬迁总线带宽、内存等资源。



-
FPGA芯片ARM硬核作CPU,310p使用ep模式,是否可行?是否有相关案例
-
FPGA+310P是否可以实现EP模式和RC模式兼容,软件上是否支持自适应切换,硬件切换如何实现?
vNpu创建以后,划分成多个vNpu设备以后;能否把vNpu当做成独立NPU设备,类似于3588芯片上3个NPU设备的概念,模型加载过程中可以指定模型所需的NPU资源;如果根据vNpu个数创建多个线程,每个线程使用单独vNpu设备加载单独模型,这些线程内的模型推理是否是同时运行?(目前我们未做vNPU划分时,使用2个线程加载不同模型,A线程模型推理结束以后,才会跑B线程的模型推理)
如果310P按照下图虚拟化实例模板vir01、vir02、vir04进行划分,是否只是使用了AI Core资源,DVPP和DATA CPU未被使用;业务流程里面还需要使其他资源,当vNpu算力切分以后,是否会影响DVPP、DATA CPU、数据搬迁总线带宽、内存等资源。
FPGA芯片ARM硬核作CPU,310p使用ep模式,是否可行?是否有相关案例
FPGA+310P是否可以实现EP模式和RC模式兼容,软件上是否支持自适应切换,硬件切换如何实现?