mindie-server推理deepseek-coder-7b模型,推理结果乱码
收藏回复举报
mindie-server推理deepseek-coder-7b模型,推理结果乱码
t('forum.solved') 已解决
新人帖
发表于2024-06-06 15:32:36
0 查看

【服务器】:Atlas 800 3000服务器 / 300Iduo卡

【版本信息】:

--CANN版本:CANN8.0.RC1

--MindIE版本:T56

--Pytorch版本:2.1.0

--Python版本:3.10.14

--操作系统版本:ubuntu20.04

【问题描述】:

deepseek-coder-7b模型在mindie-server服务化推理乱码,但不接服务化mindie推理正常。

异常输出截图

%E4%B9%B1%E7%A0%81%E6%88%AA%E5%9B%BE.png

我要发帖子