昇腾社区首页
支持
我的论坛主页
论坛首页
/
GroundingDino在910B4上部署推理速度慢是怎么回事
收藏回复举报
GroundingDino在910B4上部署推理速度慢是怎么回事
t('forum.solved') 已解决
新人帖
发表于2026-03-17 16:29:09
0 查看
GroundingDino在910B4上部署推理速度慢，大约7-8s一张，然后在CPU上才4-5s，已经排除了卡没调起来、模型重复加载等问题，目前显存占用是1.3G左右，是镜像的问题？模型适配问题？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情