MindSpore的nn.TrainOneStepWithLossScaleCell报错:RuntimeError: Compile graph kernel_graph0 failed.
收藏回复举报
MindSpore的nn.TrainOneStepWithLossScaleCell报错:RuntimeError: Compile graph kernel_graph0 failed.
发表于2024-10-25 08:39:17
0 查看

1 系统环境

硬件环境(Ascend/GPU/CPU): Ascend

MindSpore版本: mindspore=2.3.1、MindOCR=0.4.0

执行模式(PyNative/ Graph):不限

Python版本: Python=3.8

操作系统平台: linux

2 报错信息

2.1 问题描述

在mindocr训练脚本中,tools/train.py中调用TrainOneStepWrapper,TrainOneStepWrapper继承了nn.TrainOneStepWithLossScaleCell,如下代码为报错位置。

2.2 脚本信息

# 1. compute gradients (of the up-scaled loss w.r.t. the model weights)
grads = self.grad( self.network, weights)(*inputs, scaling_sens_fi1led)

2.3 报错信息

RuntimeError: Compile graph kernel_graph0 failed.
-----------------------------------------------------------
- C++ Call stack: (For framework developers)
-----------------------------------------------------------
mindspore/ccsrc/plugin/device/ascend/hal/hardware/ge_ graph executor.cc:988 compileGraph

3 根因分析

******此处由用户填写******

4 解决方案

******此处由用户填写******

包含文字方案和最终脚本代码

请将正确的脚本打包并上传附件

我要发帖子