310P上的推理性能未达到预期
收藏回复举报
310P上的推理性能未达到预期
t('forum.solved') 已解决
发表于2025-08-26 16:44:18
0 查看
硬件:Ascend310P1/Ascend310B1
CANN版本:8.1.RC1
我在使用310P进行推理测试时,使用Yolov5s模型的推理耗时约3.9-4.5ms,同模型在310B上的推理耗时约7-7.5ms,测试使用的程序、数据都是相同的,模型文件除了转换时指定的soc_version以外都是相同的,都在EP模式下测试,使用msprof工具采集运行性能数据后,发现YoloPreDetection算子在310P上的耗时是310B上的4倍左右,严重影响性能,Conv2D等算子的性能提升较为明显。饼状图中,conv2d占比较多的是310B。请问这个现象的原因是什么
cke_8735.pngcke_8952.png
cke_28189.png
cke_27094.png

本帖最后由 匿名用户2025/08/26 16:47:47 编辑

我要发帖子