华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
华为昇腾310P使用lmdeploy在推理InternVL2-8B模型时，出现了如下错误： 请问该怎么解决？
昇腾310P
Software Version 24.1.rc2 Firmware Version 1.82.22.8.220 CANN：Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run kernels:Ascend-cann-kernels-310p_8.0.RC1_linux.run
npu-smi info 打开正常
我要发帖子
点赞
收藏
回复
分享
举报
已解决
华为昇腾310P使用lmdeploy在推理InternVL2-8B模型时，出现了如下错误：
请问该怎么解决？
昇腾310P
Software Version 24.1.rc2 Firmware Version 1.82.22.8.220 CANN：Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run kernels:Ascend-cann-kernels-310p_8.0.RC1_linux.run
npu-smi info 打开正常