300I Pro(310P3)MindIE对Qwen2-7B-Instruct进行W8A8量化,出现段错误
收藏回复举报
300I Pro(310P3)MindIE对Qwen2-7B-Instruct进行W8A8量化,出现段错误
t('forum.solved') 已解决
发表于2025-01-23 10:55:25
0 查看

cke_283.png
在脚本中只修改了: ASCEND_RT_VISIBLE_DEVICES=3

CANN版本:Ascend-cann-toolkit_8.0.RC2.2_linux-aarch64
驱动:24.1.rc2

我要发帖子