使用官方镜像1.0.RC2-300I-Duo-aarch64镜像用mindieservice_daemon启动模型推理,提示mindieservice.log提示Failed to create backend manager
收藏回复举报
使用官方镜像1.0.RC2-300I-Duo-aarch64镜像用mindieservice_daemon启动模型推理,提示mindieservice.log提示Failed to create backend manager
t('forum.solved') 已解决
发表于2024-09-29 16:22:52
0 查看

1、确认修改config.json,只是修改了

{

"modelName" : "qwen-14b", 

 "modelWeightPath" : "/home/QWEN-14b"

}

2、权重文件权限也修改为只读权限了 chmod 444 *.safetensors

3、然后nohup ./bin/mindieservice_daemon > output.log 2>&1 &

4、查看mindieservice.log 日志,提示报错了:

%E5%90%AF%E5%8A%A8%E6%8A%A5%E9%94%99.png

看不到啥错误呀?如何排查?急急急~

我要发帖子