大家好,关于Origine Pi AIpro这块板子有没有跑大语言模型的测试
收藏回复举报
大家好,关于Origine Pi AIpro这块板子有没有跑大语言模型的测试
t('forum.solved') 已解决
新人帖
发表于2024-05-01 11:32:48
0 查看

大家好,关于Origine Pi AIpro这块板子有没有跑大语言模型的测试.

需要多大的内存,什么模型,量化怎么样,跑起来cpu gpu npu 占用情况怎么样?

我要发帖子