使用300IDUO卡推理ChatGLM2-6B,报错Get path and read config failed.
收藏回复举报
使用300IDUO卡推理ChatGLM2-6B,报错Get path and read config failed.
t('forum.solved') 已解决
发表于2024-01-22 13:49:39
0 查看

【行业】:军工

【服务器型号】:Atlas 300IDUO

【版本信息】:

--CANN版本:CANN 7.0.rc1

--Pytorch版本:2.0.1

--Python版本:Python3.9。18

--操作系统版本:Ubuntu

【Offering】:大模型推理

【期望解决时间】:2024/1/23

根据modelzoo中链接PyTorch/built-in/foundation/ChatGLM2-6B · Ascend/ModelZoo-PyTorch - 码云 - 开源中国 (gitee.com)进行操作

使用设备300IDUO卡

根据文档中的推理步骤进行操作,运行后输入对话后报错如下:

cke_4183.png

cke_6960.png

请问还有需要修改的位置吗?

本帖最后由 匿名用户2024/11/28 15:04:51 编辑

我要发帖子