以mindie:2.0.T3镜像为基础镜像,新镜像无法启动大模型。
收藏回复举报
以mindie:2.0.T3镜像为基础镜像,新镜像无法启动大模型。
t('forum.solved') 已解决
发表于2025-02-13 16:17:45
0 查看
新镜像内,直接启动模型报错,已修改/usr/local/Ascend/mindie/latest/mindie-service/conf/config.json。
按照https://modelers.cn/models/MindIE/DeepSeek-R1-Distill-Qwen-14B步骤。

[root@c1f07717e4c1 bin]# ./mindieservice_daemon

LLMInferEngine failed to init LLMInferModels

ERR: Failed to init endpoint! Please check the service log or console output.

Killed

本帖最后由 匿名用户2025/02/13 16:25:05 编辑

我要发帖子