华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
昇腾论坛
0
/100
支持
消息
我的论坛主页
论坛首页
/
关于310B模型推理速度优化的疑问
点赞
0
收藏
0
回复
0
分享
举报
只看楼主
关于310B模型推理速度优化的疑问
已解决
发表于2025-03-10 17:56:25
0
查看
想在310B上跑4路yolo模型的推理,目前跑yolo11n,yolo10n推理都在11-15ms左右,开启4batch输入并没有速度提升,耗时在50ms左右,量化也没有得到速度上的提升。请问这个推理时长对于310B来说是否是合理的,还有什么办法提升吗,想要实现30fps目前这个速度不太行。
本帖最后由
匿名用户
于
2025/03/10 19:09:17
编辑
匿名回复
发表
我要发帖子
我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。
查看详情