我在双卡300I Pro（310P3）的华为机器上（不一定保证是推理机器，因为是公司给的）。使用环境是 mindie-1.0.0，以及安装了对应的驱动（图中除了5-other没有安装，其他都安装了。）
但是我运行7B的时候（https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B），正常启动，也能正常推理，但是使用14B（https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B），就出现附件的错误。
其中config.json在附件中，在7B能运行的情况下，将7B改成14B，再次执行 bin/mindieservice_daemon 就往死里报错，开启ASDOPS_LOG_LEVEL=ERROR ASDOPS_LOG_TO_STDOUT=1后，第一个错误如图所示，完整日志附件上传了。请求大佬能简单指导下，实在搞得头昏脑涨了。。
点赞
收藏
回复
分享
举报
已解决
我在双卡300I Pro（310P3）的华为机器上（不一定保证是推理机器，因为是公司给的）。使用环境是 mindie-1.0.0，以及安装了对应的驱动（图中除了5-other没有安装，其他都安装了。）
但是我运行7B的时候（https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B），正常启动，也能正常推理，但是使用14B（https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B），就出现附件的错误。
其中config.json在附件中，在7B能运行的情况下，将7B改成14B，再次执行 bin/mindieservice_daemon 就往死里报错，开启ASDOPS_LOG_LEVEL=ERROR ASDOPS_LOG_TO_STDOUT=1后，第一个错误如图所示，完整日志附件上传了。请求大佬能简单指导下，实在搞得头昏脑涨了。。