华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
问题1描述:
任务跑了一会儿,报错,提示/anti_prompt.json文件不存在
问题2描述:
执行了一会儿,然后报如下错误
机型:800T A2
CANN:8.0.0
执行的一样的命令: python3 quant_deepseek_w8a8.py --model_path /model/DeepSeek-V3-0324-bf16 --save_path /model/DeepSeek-V3-0324-bf16-W8A8
我要发帖子
问题1描述:
任务跑了一会儿,报错,提示/anti_prompt.json文件不存在
问题2描述:
执行了一会儿,然后报如下错误
机型:800T A2
CANN:8.0.0
执行的一样的命令: python3 quant_deepseek_w8a8.py --model_path /model/DeepSeek-V3-0324-bf16 --save_path /model/DeepSeek-V3-0324-bf16-W8A8