qwen2-7b w8a8量化报错valuerror
收藏回复举报
qwen2-7b w8a8量化报错valuerror
t('forum.solved') 已解决
发表于2024-11-06 10:27:20
0 查看

【行业】航空

【设备】4*Atlas 300i duo

【环境】

驱动24.1.rc3

cann8.0.rc3

mindie1.0.rc3

【问题描述】

使用qwen2-14b量化转换脚本去转换7b的模型,出现报错

cke_6765.png

我要发帖子