根据SOP对模型进行量化切分压缩，切分压缩后模型无法正常推理，量化后模型可以正产推理，双卡300IDuo跑DeepSeek-R1-Distill-Qwen-14B输出正常，单卡跑DeepSeek-R1-Distill-Qwen-14B推理结果异常，图一为双卡正常推理结果，图二为单卡异常推理结果

​

​