如何在Atlas 200I DK A2上部署一个Qwen2.5-0.5B
收藏回复举报
如何在Atlas 200I DK A2上部署一个Qwen2.5-0.5B
t('forum.solved') 已解决
发表于2025-09-18 10:58:17
0 查看
问题如下:基于Qwen2.5-0.5B训练了一个多模态大模型,但是在Atlas 200I DK A2的310b上有几个算子不支持call aclnnFusedInferAttentionScoreV2 failed, detail:EZ1001: [PID: 6647] 2025-09-13-15:17:43.599.720 Get regInfo failed, The binary_info_config.json of socVersion [ascend310b] does not support opType [FusedInferAttentionScore]. 所以想通过ATC转化Qwen2.5-0.5B为onnx格式文件 然后再用at转为om但是没有找到这一块的教程 

我要发帖子