华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
Atlas 800-3000服务器上Ascend310集群上对yolov7-e6e.pt 转化后的om模型进行推理,图片大小1280*1280 对net.run([image_bytes])的推理时间进行计时,耗时170ms(这边只使用了一个板卡上的的device),而在TITAN RTX上耗时只有35ms,请问一下这个推理时间正常吗?另外有说法是4个device可以媲美nvidia T4,我这边有什么方法可以使用4个device 来推理一个模型吗?
我要发帖子
Atlas 800-3000服务器上Ascend310集群上对yolov7-e6e.pt 转化后的om模型进行推理,图片大小1280*1280 对net.run([image_bytes])的推理时间进行计时,耗时170ms(这边只使用了一个板卡上的的device),而在TITAN RTX上耗时只有35ms,请问一下这个推理时间正常吗?另外有说法是4个device可以媲美nvidia T4,我这边有什么方法可以使用4个device 来推理一个模型吗?