DeepSeek V3-0324量化脚本失败
收藏回复举报
DeepSeek V3-0324量化脚本失败
t('forum.solved') 已解决
发表于2025-03-28 11:36:54
0 查看

问题1描述:

任务跑了一会儿,报错,提示/anti_prompt.json文件不存在

cke_456.png

问题2描述:

执行了一会儿,然后报如下错误

cke_6857.png

cke_9358.png

机型:800T A2

CANN:8.0.0

执行的一样的命令: python3 quant_deepseek_w8a8.py --model_path /model/DeepSeek-V3-0324-bf16 --save_path  /model/DeepSeek-V3-0324-bf16-W8A8 

我要发帖子