--- title: 大模型开发学习专区-昇腾社区 description: 本系列课程基于昇腾基础软硬件开发，以大模型实践教学为主，分为初级、中级、高级系列，旨在将前沿技术通过代码实践的方式，为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优三条路径的全流程开发指南 keywords: 大模型开发学习专区,昇腾社区,学练结合,掌握大模型开发全流程,学习列表,探索关联资源,CANN,Kernel url: https://www.hiascend.com/edu/growth/lm-development section: (其他) --- # 大模型开发学习专区-昇腾社区 URL: https://www.hiascend.com/edu/growth/lm-development 描述: 本系列课程基于昇腾基础软硬件开发，以大模型实践教学为主，分为初级、中级、高级系列，旨在将前沿技术通过代码实践的方式，为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优三条路径的全流程开发指南 关键词: 大模型开发学习专区,昇腾社区,学练结合,掌握大模型开发全流程,学习列表,探索关联资源,CANN,Kernel 大模型开发学习专区 大模型开发全流程 昇思技术公开课大模型专题 大模型开发全流程 昇思技术公开课大模型专题 ... 大模型开发全流程-初级 大模型开发全流程中级 大模型开发全流程-高级 学习路径 [了解详情](https://www.hiascend.com/edu/growth) 大模型开发全流程 ## 学练结合，掌握大模型开发全流程 本系列课程基于昇腾基础软硬件开发，以大模型实践教学为主，分为初级、中级、高级系列，旨在将前沿技术通过代码实践的方式，为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优三条路径的全流程开发指南 大模型开发全流程-初级 9 课程 初级课程主要介绍大模型的发展过程、分类与当前代表性大模型等基础知识，然后基于昇腾使用快速易上手的大模型，帮助开发者学习开发环境搭建、训练数据准备、大模型预训练、推理、性能评估全流程，并进一步介绍提示学习和思维链提示的相关内容。 大模型开发全流程中级 10 课程 中级课程主要介绍基于MindSpeed-LLM框架进行大模型训练，并使用MindIE进行推理部署的开发全流程，帮助开发者对包括RAG、智能体、越狱攻击、水印在内的大模型前沿应用研究有初步了解。 大模型开发全流程-高级 8 课程 主要介绍MindStudio工具链，帮助开发者掌握将大模型迁移到昇腾 + PyTorch进行开发，并进行精度和性能调优的能力。高级课程兼顾训练调优使用的多种技术，开展基础应用（信息抽取、问答对话）以及智能体、安全攻防等前沿开发实践。 ## 学习列表 大模型开发全流程-初级 大模型简介 人工智能技术经历了小数据到大数据，小模型到大模型，专用模型到通用模型的发展历程，正逐步进入大模型时代。本章将介绍大模型的基本概念与范畴、发展过程、类型与特点以及当前代表性的大模型，并对本课程整体内容进行概述。 4.9 1.0小时 11799 昇腾硬件简介 本章将对昇腾计算产业进行简介。昇腾计算产业是基于昇腾系列处理器和基础软件构建的全栈AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 4.8 15分钟 3549 开发环境搭建 本章将以Ubuntu系统为例，介绍如何在昇腾服务器上安装NPU驱动和NPU固件，CANN内核（Kernel）和计算工具包（ToolKit），并配置大模型训练、推理所需的软件环境。 4.9 0.8小时 3929 训练数据准备 大模型的性能与训练使用的数据的数量与质量有很大联系。本章将介绍预训练与指令微调两个过程中使用的训练数据准备，包括数据来源、数据清洗和混合等环节。 4.9 25分钟 1867 大模型预训练-初级 预训练是大模型构建的基础环节，以语言建模为基本任务，大量的训练数据是关键。本章将介绍预训练的流程，包括模型结构、词表和分词器、数据准备、训练参数设置、根据损失和评测结果调整数据和训练参数等环节。 5.0 0.6小时 2222 大模型推理-初级 高效地部署与调用大模型可以充分发挥其作用。本章初级课程将介绍大模型在常见的Web与API接口上的推理调用、基于Flask框架的本地环境配置及本地部署推理。 4.9 1.0小时 1465 大模型性能评估-初级 模型的规模庞大并不总是意味着性能更好，因此我们需要一套有效的方法来评估这些大型神经网络的性能。本文将探讨为什么要评估大型神经网络模型，以及如何使用一系列关键指标来评估它们。 4.9 25分钟 935 提示学习 提示学习主要通过自然语言接口使大模型任务表达更为直观，包括少样本提示、零样本提示等。本章介绍通过提示工程设计有效的提示，提升模型生成内容的质量。 5.0 1.0小时 1008 思维链提示 思维链是一种提示大模型进行推理的方法，通过引导模型像人类一样逐步思考来解决复杂问题。这种一步步展现推理过程的方法，不仅能帮助模型得出更准确的答案，还能让人理解模型是如何得出结论的。本章将介绍思维链构造和使用的主要范式。 4.9 0.7小时 791 大模型开发全流程中级 MindSpeed LLM介绍 在初级课程中，我们使用原生Pytorch编写训练代码，讲解了大模型的预训练和微调等训练方式。在业界实践中，为简化复杂的训练流程、优化训练性能，常常使用训练框架，MindSpeed LLM便是由华为昇腾开发的大模型训练框架，性能优异，被开发者广泛使用。在中级课程涉及大模型训练的章节，我们将使用MindSpeed LLM进行大模型训练。本节课介绍MindSpeed LLM，通过理论和实践提供开发教学。 4.9 25分钟 1018 大模型预训练-中级 本节课在预训练的初级课程基础上，介绍使用MindSpeed LLM进行预训练与性能评估实践。 4.9 25分钟 779 大模型微调-中级 为进一步增强大模型在某些领域的能力，现实场景下常对预训练的大模型进一步微调。本节课程将介绍利用MindSpeed LLM全量微调大模型，并生成权重文件。 4.9 21分钟 832 MindIE 介绍 如今众多的大模型开发完成后根据需求部署在不同的的平台和框架完成推理任务。本节课程介绍如何使用ATB适配模型基于昇腾+MindIE拉起推理任务。 4.9 1.0小时 1247 大模型推理-中级 本节课程在初级课程的基础上，介绍使用ATB模型进行本地/服务化部署。 4.9 1.0小时 848 大模型性能评估-中级 本节课程将介绍使用C-Eval/benchmark等方法和工具进行大模型推理性能评估。 5.0 15分钟 372 大模型应用-RAG RAG通过动态检索实时、专业的知识库信息来弥补大模型在知识时效性、覆盖广度和准确性上的不足，从而提升生成回答的质量和可靠性。本章将介绍基于MindX RAG的数据检索和知识注入，使模型在回答时能动态获取最新、准确的外部知识，提升时效性、效率和专业性。 5.0 1.3小时 868 大模型应用-智能体 智能体（或智能代理）基于大语言模型，通过复杂的框架结构实现高水平的自治能力和智能化处理。本节课程介绍智能体的内涵，普遍认同的智能体构成，以及主流的智能体框架、基准和总体性能。 5.0 22分钟 638 大模型安全-越狱 随着大模型能力越来越强大，其可能被用来生成不良或恶意内容，因此许多安全机制已经被应用到大模型的训练和推理中。本章将介绍越狱攻击，攻击者通过设计越狱提示，将其与用户指令一起作为输入，可以绕过大模型内部的安全机制，使经过安全培训的大模型仍然按照攻击者指令，输出不符合内容安全要求的恶意内容。 5.0 10分钟 376 大模型安全-水印 大模型在生成高质量文本方面的能力是一把双刃剑，其卓越能力既带来了便利，也带来了一些问题，例如在知识产权保护方面的挑战，以及合成虚假新闻、诈骗信息的泛滥等。在这样的背景下，水印技术作为一种有效的数字版权保护手段，越来越受到研究者的关注。水印技术通过在生成内容中嵌入特定的标识信息，可以对内容来源进行认证，防止内容被篡改或未经授权的传播。本章将介绍大模型文本水印的基本概念以及水印嵌入的基本原理。 5.0 0 366 大模型开发全流程-高级 大模型预训练-高级 本课程将介绍使用全新模型进行迁移开发，并对全新模型迁移后进行精度调优和性能调优。 5.0 9分钟 520 大模型微调-高级 本章高级课程将介绍将GPU训练大模型的代码迁移到NPU上运行的方法，并发起模型的全量微调。在实际应用场景中，由于大模型的参数量极大，在计算资源受限场景下难以对所有参数进行微调，因此，本章在迁移GPU代码到NPU上后，将介绍和发起以LoRA为代表的参数高效微调。为进一步调优在NPU上微调后的模型，本课程介绍训练精度调优和训练性能调优。 5.0 0.9小时 584 大模型推理 如今众多的大模型开发完成后根据需求部署在不同的的平台和框架完成推理任务。本章将介绍如何使用全新模型进行迁移开发后基于昇腾+vllm拉起推理任务，进行交互式推理。 5.0 2.5小时 586 大模型应用-基础应用 本节课程以提示学习为切入点，深入探究大模型在信息抽取和问答对话中的应用与表现，包括学习如何优化提示设计，如何进行高效的上下文管理，以提升模型对复杂任务的理解与执行能力，为大模型应用奠定坚实基础。 5.0 1.0小时 421 大模型应用-智能体 本节课程在中级课程的基础上，先回顾对于智能体的基本概念，然后以多模态GUI智能体为例，介绍如何构建一个智能体。 5.0 20分钟 584 大模型安全-越狱 随着越狱攻击的不断开展，已经有很多工具可以用于越狱攻防。本节课程将介绍越狱工具和目前的检测与防御技术。 5.0 0.5小时 334 大模型安全-水印 本节课程将结合实验，对文本水印的注入与检测技术进行介绍。 5.0 0.5小时 312 ## 探索关联资源 在线课程体系化的课程，轻松学昇腾、用昇腾 [了解详情](https://www.hiascend.com/edu/courses) 在线实验学以致用，在线实操，体验昇腾平台，让理论融入实践 [了解详情](https://www.hiascend.com/edu/experiment) 微认证一站式在线学习、实验、考试，获取核心技能认证 [了解详情](https://www.hiascend.com/edu/certification) 昇腾文档帮助开发者了解华为昇腾系列AI处理器软硬件，进行AI应用开发 [了解详情](https://www.hiascend.com/document)