华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
在英伟达3060-laptop显卡上跑测试程序,第一次推理耗时约4s,第二次推理耗时176ms;
在昇腾300I Duo显卡上运行相同测试程序,第一次推理耗时约9.6s,第二次推理耗时4.88s;
昇腾300I Duo算力远高于英伟达3060-laptop,为什么速度慢这么多?第一次做昇腾显卡适配,哪个地方出的问题呢?
我要发帖子
在英伟达3060-laptop显卡上跑测试程序,第一次推理耗时约4s,第二次推理耗时176ms;
在昇腾300I Duo显卡上运行相同测试程序,第一次推理耗时约9.6s,第二次推理耗时4.88s;
昇腾300I Duo算力远高于英伟达3060-laptop,为什么速度慢这么多?第一次做昇腾显卡适配,哪个地方出的问题呢?