华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
昇腾论坛
0
/100
支持
消息
我的论坛主页
论坛首页
/
关于300I DUO 和 910B3 运行rerank模型与embedding模型 耗时问题
点赞
0
收藏
0
回复
0
分享
举报
只看楼主
关于300I DUO 和 910B3 运行rerank模型与embedding模型 耗时问题
已解决
发表于2025-01-21 14:33:04
0
查看
分别使用bge-large-zh-v1.5和bge-reranker-v2-m3在300I DUO和910B3两个设备上运行,embedding的耗时差别不大,但是rerank的耗时有10倍以上的差距 请问这是什么原因呢。
本帖最后由
匿名用户
于
2025/01/21 15:26:05
编辑
匿名回复
发表
我要发帖子
我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。
查看详情