---
title: 在模型运行时遇到日志报错“MemCopySync:drvMemcpy failed.”-昇腾社区
description: bbox_targets = torch.stack((left, top, right, bottom), -1)  #报错位置在这里
keywords: MemCopySync,Memcpy,在模型运行时,遇到日志报错,昇腾社区,问题现象描述,原因分析,结果是
url: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538588938
section: (其他)
---

# 在模型运行时遇到日志报错“MemCopySync:drvMemcpy failed.”-昇腾社区

URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538588938
描述: bbox_targets = torch.stack((left, top, right, bottom), -1)  #报错位置在这里
关键词: MemCopySync,Memcpy,在模型运行时,遇到日志报错,昇腾社区,问题现象描述,原因分析,结果是

昇腾文档 [了解详情](https://www.hiascend.com/document)

故障案例 [了解详情](https://www.hiascend.com/document/caselibrary)

在模型运行时遇到日志报错“MemCopySync:drvMemcpy failed.”

在模型运行时遇到日志报错“MemCopySync:drvMemcpy failed.”

2023/06/06

1.1k

问题信息

| 问题来源 | 产品大类 | 关键字 |
| --- | --- | ---|
| 官方 | 模型训练 | -- |

#### 问题现象描述

- shell报错文本：

```
RuntimeError: Run:/usr1/workspace/PyTorch_Apex_Daily_c20tr5/CODE/aten/src/ATen/native/npu/utils/OpParamMaker.h:280 NPU error,NPU error code is:500002
    [ERROR] RUNTIME(160809)kernel task happen error, retCode=0x28, [aicpu timeout].
    [ERROR] RUNTIME(160809)aicpu kernel execute failed, device_id=0, stream_id=512, task_id=24, fault so_name=, fault kernel_name=, extend_info=.
    Error in atexit._run_exitfuncs:
    Traceback (most recent call last):
    File "/usr/local/python3.7.5/lib/python3.7/site-packages/torch/__init__.py", line 429, in _npu_shutdown
        torch._C._npu_shutdown()
    RuntimeError: npuSynchronizeDevice:/usr1/workspace/PyTorch_Apex_Daily_c20tr5/CODE/c10/npu/NPUStream.cpp:806 NPU error, error code is 0
```
- 日志报错：

```
[ERROR] RUNTIME(12731,python3.7):2021-02-02-22:23:56.475.679 [../../../../../../runtime/feature/src/npu_driver.cc:1408]12828 MemCopySync:drvMemcpy failed: dst=0x108040288000, destMax=1240, src=0x7fe7649556d0, size=1240, kind=1, drvRetCode=17!
   [ERROR] RUNTIME(12731,python3.7):2021-02-02-22:23:56.475.698 [../../../../../../runtime/feature/src/logger.cc:113]12828 KernelLaunch:launch kernel failed, kernel=140631803535760/ArgMinWithValue_tvmbin, dim=32, stream=0x55b22b3def50
   [ERROR] RUNTIME(12731,python3.7):2021-02-02-22:23:56.475.717 [../../../../../../runtime/feature/src/api_c.cc:224]12828 rtKernelLaunch:ErrCode=207001, desc=[module new memory error], InnerCode=0x70a0002
```

#### 原因分析

样例脚本如下：

```
import torch
    import torch_npu

    def test_sum():
        xs_shape = [22400, 8]
        ys_shape = [22400, 8]
        gt_bboxes_shape = [22400, 8,4]
        xs = torch.rand(xs_shape).npu()
        ys = torch.rand(ys_shape).npu()
        gt_bboxes = torch.rand(gt_bboxes_shape).npu().half()
        left = xs - gt_bboxes[..., 0]
        right = gt_bboxes[..., 2] - xs
        top = ys - gt_bboxes[..., 1]
        bottom = gt_bboxes[..., 3] - ys
        # stream = torch_npu.npu.current_stream()
        # stream.synchronize()
        # left, top 结果是fp32，  right, bottom 结果是fp16，
        # print(left.dtype, top.dtype, right.dtype, bottom.dtype)
        bbox_targets = torch.stack((left, top, right, bottom), -1)  #报错位置在这里
        # stream.synchronize()

        bbox_targets = torch.sum(bbox_targets)
```

根据shell和日志报错信息，两者报错信息不匹配。shell报错是在同步操作中和AI CPU错误，而日志报错信息却是在min算子（内部调用ArgMinWithValue_tvmbin），二者报错信息不对应。一般这类问题出现的原因是由于日志生成的报错信息滞后。报错信息滞后可能是由于AI CPU算子的异步执行，导致报错信息滞后。

#### 解决措施

对于该报错需要根据实际的错误来定位，可参考如下步骤进行处理：

1. 通过多任务算子下发后，发现结果不变，推断在shell脚本报错位置和日志报错算子之前就已出现错误。
2. 根据报错加上stream同步操作，缩小错误范围，定位错误算子。stream同步操作的作用在于其要求代码所运行到的位置之前的所有计算必须为完成状态，从而定位错误位置。
3. 通过在代码中加上stream同步操作，报错算子为stack。
4. 打印stack所有参数的shape、dtype、npu_format，通过构造单算子用例复现问题。定位到问题原因为减法计算输入参数数据类型不同，导致a - b和b - a结果的数据类型不一致，最终在stack算子中报错。
5. 将stack入参数据类型转换为一致即可临时规避问题。

本页内容

- 问题信息
- 问题现象描述
- 原因分析
- 解决措施