华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
mindIE怎么用多npu推理llama3.x啊
我是按照官方说的去下载权重,它也没说要下载哪些权重啊?还是说都下载啊?(我反正全下载了,但是就是有问题) 下面是官方的方法:
进行推理的时候就有问题了。如下:
这个昇腾是真的非常非常非常非常非常难用啊!害
我要发帖子
mindIE怎么用多npu推理llama3.x啊
我是按照官方说的去下载权重,它也没说要下载哪些权重啊?还是说都下载啊?(我反正全下载了,但是就是有问题)
下面是官方的方法:
进行推理的时候就有问题了。如下:

这个昇腾是真的非常非常非常非常非常难用啊!害