问题描述：

1. qwen2-72B和baichuan2-13B是否是支持w8a16（GPTQ、AWQ）的量化，mindie镜像中自带的量化脚本采用的是什么方式呢（GPTQ/AWQ/MinMax等？）
2. 参考https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/800alpha001/devaids/devtools/msmodelSlim/modelslim_0025.html修改了代码，目前是baichuan2-13B的GPTQ/AWQ量化没有报错，是否可以认为无报错就算量化成功【使用量化后的权重可以正常推理】
3. 参考以上链接中的GPTQ样例，修改qwen2-72B量化代码，出现问题【代码见附件】，截图如下所示，请帮忙看一下这个问题如何解决呢：

   

硬件：Atlas 800 IA2
驱动固件：24.1.RC1

镜像：MindIE-1.0.RC3

torch 2.1.0

python3.11.10