华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
【行业】:军工
【服务器型号】:Atlas 300IDUO
【版本信息】:
--CANN版本:CANN 7.0.rc1
--Pytorch版本:2.0.1
--Python版本:Python3.9。18
--操作系统版本:Ubuntu
【Offering】:大模型推理
【期望解决时间】:2024/1/23
根据modelzoo中链接PyTorch/built-in/foundation/ChatGLM2-6B · Ascend/ModelZoo-PyTorch - 码云 - 开源中国 (gitee.com)进行操作
使用设备300IDUO卡
根据文档中的推理步骤进行操作,运行后输入对话后报错如下:
请问还有需要修改的位置吗?
本帖最后由 匿名用户 于 2024/11/28 15:04:51 编辑
我要发帖子
【行业】:军工
【服务器型号】:Atlas 300IDUO
【版本信息】:
--CANN版本:CANN 7.0.rc1
--Pytorch版本:2.0.1
--Python版本:Python3.9。18
--操作系统版本:Ubuntu
【Offering】:大模型推理
【期望解决时间】:2024/1/23
根据modelzoo中链接PyTorch/built-in/foundation/ChatGLM2-6B · Ascend/ModelZoo-PyTorch - 码云 - 开源中国 (gitee.com)进行操作
使用设备300IDUO卡
根据文档中的推理步骤进行操作,运行后输入对话后报错如下:
请问还有需要修改的位置吗?