bge-small-zh-v1.5模型性能问题
收藏回复举报
bge-small-zh-v1.5模型性能问题
t('forum.solved') 已解决
发表于2024-12-06 17:48:19
0 查看

我在npu上试了下 bge-small-zh-v1.5的模型,200字向量化的需要耗时5秒。比cpu还要慢

测试代码

cke_375.jpeg

测试结果

cke_1475.jpeg

cke_2003.jpeg

cke_2578.jpeg

cke_3259.jpeg

本帖最后由 匿名用户2024/12/06 17:49:08 编辑

我要发帖子