华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
【服务器】:Atlas 800 3000服务器 / 300Iduo卡
【版本信息】:
--CANN版本:CANN8.0.RC1
--MindIE版本:T56
--Pytorch版本:2.1.0
--Python版本:3.10.14
--操作系统版本:ubuntu20.04
【问题描述】:
deepseek-coder-7b模型在mindie-server服务化推理乱码,但不接服务化mindie推理正常。
异常输出截图
我要发帖子
【服务器】:Atlas 800 3000服务器 / 300Iduo卡
【版本信息】:
--CANN版本:CANN8.0.RC1
--MindIE版本:T56
--Pytorch版本:2.1.0
--Python版本:3.10.14
--操作系统版本:ubuntu20.04
【问题描述】:
deepseek-coder-7b模型在mindie-server服务化推理乱码,但不接服务化mindie推理正常。
异常输出截图