华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
使用mindie,用llama3.1-70b进行推理,
纯模型使用这里,执行了
cd ${ATB_SPEED_HOME_PATH} bash examples/models/llama/run_pa.sh /data/Llama-3.1-70b-hf
出现如下问题
于是我将对应的报错通通注释掉,就没有这个问题了。但是还有下面的问题:
然后已经看不懂了。
我要发帖子
使用mindie,用llama3.1-70b进行推理,
纯模型使用这里,执行了
cd ${ATB_SPEED_HOME_PATH} bash examples/models/llama/run_pa.sh /data/Llama-3.1-70b-hf出现如下问题
于是我将对应的报错通通注释掉,就没有这个问题了。但是还有下面的问题:
然后已经看不懂了。