Qwen7b推理乱码
收藏回复举报
Qwen7b推理乱码
t('forum.solved') 已解决
新人帖
发表于2024-07-08 14:16:38
0 查看

环境:

910 服务器 单卡Lora微调后推理

mindformer 1.0.2

mindspore 2.2.0

驱动固件 23.0.rc2.2

配置文件yaml信息 true true true

推理日志 true true true true true

推理出现乱码现象,但是我用原始未lora微调的base权重,能正常的回答,这是什么原因呀?哪位大佬能帮忙看看

本帖最后由 匿名用户2024/08/06 11:01:21 编辑

我要发帖子