方案介绍
方案包括底层适配昇腾的AI算力调度平台和大模型的训练微调能力，在此之上推出多个不同尺寸的基础大模型，可灵活适配不同的硬件配置和使用场景，并通过通信、金融、法律等行业知识语料的训练，生成了可适用于生产环境的行业大模型产品。
方案架构图
算法/关键配置
| 适配算法/关键配置名称 | 算法/关键配置描述 |
|---|---|
| supportSelectBatch | 设置为true用于增加吞吐量 |
优势亮点
- 1. 原生驱动，性能卓越 原生适配昇腾AI基础软硬件平台，在预训练微调层面和推理层面分别进行了优化，充分利用了MindSpore Transformers提供的自动拓扑感知能力以及ATB高性能加速库，整体性能大幅提升。
- 2. 型号多样，灵活适配 支持1.5B/8B/13B/70B四种不同量级参数大小，用户可根据自己的应用场景和硬件环境灵活的进行选择适配。
- 3. 智能调度，高效节能 统一的AI算力调度平台支持十几种智能算力调度算法，实现算力资源的高效利用；在MAAS平台上支持模型训练和推理任务的可视化编排以及模型的一键部署。
资源下载
基于昇腾原生开发的浩瀚晨星大模型在行业领域的应用.pdf
下载技术认证书
Ascend Native认证证书.pdf