华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
大家好,关于Origine Pi AIpro这块板子有没有跑大语言模型的测试.
需要多大的内存,什么模型,量化怎么样,跑起来cpu gpu npu 占用情况怎么样?
我要发帖子
大家好,关于Origine Pi AIpro这块板子有没有跑大语言模型的测试.
需要多大的内存,什么模型,量化怎么样,跑起来cpu gpu npu 占用情况怎么样?