昇腾模型套件
名称 |
介绍 |
版本要求 |
适配说明 |
|---|---|---|---|
MindSpeed LLM |
MindSpeed LLM旨在为华为昇腾AI处理器上的大语言模型提供端到端的解决方案，包含模型，算法，以及下游任务。 |
Python版本：3.8 CANN版本：CANN 8.2.RC1 PyTorch版本：2.1.0、2.6.0 torch_npu版本：7.1.0 |
|
MindSpeed MM |
MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件，同时支持多模态生成及多模态理解，旨在为华为昇腾AI处理器提供端到端的多模态训练解决方案，包含预置业界主流模型，数据工程，分布式训练及加速，预训练、微调、在线推理任务等特性。 |
Python版本：3.8、3.10 CANN版本：CANN 8.2.RC1 PyTorch版本：2.1.0、2.6.0 torch_npu版本：7.1.0 |
|
MindSpeed RL |
MindSpeed RL基于昇腾生态的强化学习套件，支持超大昇腾集群训推共卡/分离部署、多模型异步流水调度、训推异构切分通信等核心加速能力。 |
Python版本：3.10 CANN版本：CANN 8.2.RC1 PyTorch版本：2.1.0、2.6.0 torch_npu版本：7.1.0 |
|
Driving SDK |
Driving SDK是基于昇腾NPU平台开发的适用于自动驾驶场景的算子和模型加速库，提供了一系列高性能的算子和模型加速接口，支持PyTorch框架。 |
PyTorch版本为2.1.0、2.5.1及以上。 Python版本为3.8及以上。 |
|
openMind |
openMind Library是基于昇腾NPU平台的大模型微调套件，通过命令行接口或SDK支持微调、推理、评估和部署。通过简化使用流程，充分利用NPU的独特优势，为大模型应用提供高效、可扩展的解决方案。 |
Python版本：3.8~3.10 CANN版本：CANN 8.2.RC1 PyTorch版本：2.1.0 torch_npu版本：7.1.0 |