一、问题概况
宿主机硬件平台:Atlas 300I Pro
CANN版本:8.0.RC3;
驱动版本:24.1.RC2;
系统:"openEuler 22.03 LTS"
目前是在该硬件平台上进行算力切分性能的测试,首先已经在未经过算力切分操作的单个容器中完成了yolov8模型的推理,然后按照vir04和vir04_3c策略进行动态算力切分,最后在两个容器中分别调用切分后的NPU进行模型推理:
容器1基本情况:

容器2基本情况:

推理过程中出现了下面的报错:

备注:atc模型转换命令:atc --model=yolov8s.onnx --framework=5 --output=yolov8s_new --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp.cfg
一、问题概况
宿主机硬件平台:Atlas 300I Pro
CANN版本:8.0.RC3;
驱动版本:24.1.RC2;
系统:"openEuler 22.03 LTS"
目前是在该硬件平台上进行算力切分性能的测试,首先已经在未经过算力切分操作的单个容器中完成了yolov8模型的推理,然后按照vir04和vir04_3c策略进行动态算力切分,最后在两个容器中分别调用切分后的NPU进行模型推理:
容器1基本情况:
容器2基本情况:
推理过程中出现了下面的报错:
备注:atc模型转换命令:atc --model=yolov8s.onnx --framework=5 --output=yolov8s_new --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp.cfg