【SHLM】-使用脚本启动Baichuan-13B-Chat出错
收藏回复举报
【SHLM】-使用脚本启动Baichuan-13B-Chat出错
t('forum.solved') 已解决
发表于2023-11-30 16:42:18
0 查看

按照如下脚本启动baichuan13B

cd mindformers/research 

python baichuan/run_baichuan_13b_chat.py --config baichuan --load_checkpoint path/to/baichuan_13b.ckpt --max_new_tokens 512

模型正常加载,但chat出错:

image.png

我要发帖子