大模型推理Qwen2异常
收藏回复举报
大模型推理Qwen2异常
t('forum.solved') 已解决
发表于2024-12-25 10:25:39
0 查看

推理Qwen2模型,无论参数量大小,推理结果很短时无问题,推理生成结果稍长会抛出如下异常

请问如何解决

RuntimeError: call aclnnIndex failed, detail:EZ9999: Inner Error! 

EZ9999  Tiling failed 

        TraceBack (most recent call last): 

        Tiling Failed. 

        Kernel Run failed. opType: 117, Index 

        launch failed for Index, errno:561103.

我要发帖子