---
title: 加载模型时出现out of memory报错提示-昇腾社区
description: 部署service服务，加载LLaMA-65B模型时出现out of memory报错提示，如下图所示。
keywords: 加载;模型;out of memory
url: https://www.hiascend.com/document/caselibrary/detail/topic_0000002250112009
section: (其他)
---

# 加载模型时出现out of memory报错提示-昇腾社区

URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002250112009
描述: 部署service服务，加载LLaMA-65B模型时出现out of memory报错提示，如下图所示。
关键词: 加载;模型;out of memory

昇腾文档 [了解详情](https://www.hiascend.com/document)

故障案例 [了解详情](https://www.hiascend.com/document/caselibrary)

加载模型时出现out of memory报错提示

加载模型时出现out of memory报错提示

2025/03/24

629

问题信息

| 问题来源 | 产品大类 | 关键字 |
| --- | --- | ---|
| 官方 | 模型推理 | 加载、模型、out of memory |

#### 问题现象描述

部署service服务，加载LLaMA-65B模型时出现out of memory报错提示，如下图所示。

#### 原因分析

权重太大，内存不足。

#### 解决措施

将config.json文件中ModelConfig的npuMemSize调小，比如调成8。

本页内容

- 问题信息
- 问题现象描述
- 原因分析
- 解决措施