资源

昇腾AI联合智源FlagOpen(飞智),共促大模型生态创新

产业开发者生态伙伴

发表于 2023/09/04

近期,昇腾AI与智源研究院FlagOpen(飞智)大模型技术开源体系展开深入合作,取得关键进展。基于面向多种AI硬件的一体化评测引擎FlagPerf,双方已完成对昇腾硬件在ResNet50模型上的测试评价,昇腾硬件性能表现优异。目前昇腾AI已支持智源自研开源语言大模型悟道·天鹰(Aquila)的单机和多机训练,训练性能业界领先。双方计划下半年开展对GLM、LLaMA等更多主流模型的评测,携手共建大模型开源生态。



智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。FlagOpen(飞智)大模型技术开源体系是智源研究院与多家企业、高校和科研机构共建的一站式、高质量的大模型开源开放软件体系,包括大模型算法、模型、数据、工具、评测等重要组成部分,支持协同创新和开放竞争,共建共享大模型时代的“新Linux”开源开放生态。


在FlagOpen(飞智)大模型技术开源体系中,面向多种AI硬件的一体化评测引擎FlagPerf 对AI生态有重要价值。FlagPerf是智源研究院联合各大AI软硬件厂商建立的开源、开放、灵活、公正、客观的一体化评测引擎,可快速高效地对AI软硬件进行适配和评测,解决当前AI软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。FlagPerf至今已适配了涵盖CV、NLP、语音、大模型等领域的近20个经典模型,支持评测AI硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于AI服务器、图计算各个场景,期望全面、立体地刻画厂商的软硬件实力,并通过不断迭代评测体系,紧跟AI产业发展浪潮。


目前,FlagPerf已和昇腾AI等4家技术路线深度合作,共同推进AI硬件评测建设。


昇腾AI是以昇腾AI基础软硬件平台为基础构建的人工智能计算产业。昇腾AI基础软硬件平台包含Atlas系列硬件及伙伴自有品牌硬件、异构计算架构CANN、全场景AI框架昇思MindSpore、昇腾应用使能MindX、一站式开发平台ModelArts和统一工具链MindStudio等,昇腾AI不仅可以提供澎湃算力,还可以提供各种高效的开发工具,使能大模型全流程开发,加速大模型原生创新。


针对已有的业界大模型,昇腾AI提供一站式迁移工具,百亿参数模型2天完成脚本迁移,2周实现精度和性能调优。基于昇腾推理引擎可对接各框架的推理API和业务系统,支持在线分布式推理,应用快速上线。


当前昇腾AI已原生支持30多个L0基础大模型,包括业界熟知的GPT3、LLaMA2、GLM、讯飞星火等,并已联合金融、运营商、互联网、能源等行业协同孵化了多个L1行业大模型和L2场景应用大模型。昇腾AI将坚持开放,使能客户开发自己的行业大模型和场景大模型。


“大数据+大算力+强算法=大模型”是当前人工智能发展的主要技术路径。未来,围绕大模型创新,双方将在基础软硬件、生态共建等多维度展开深入合作,充分发挥各自优势,实现能力互补,促进大模型创新,共建大模型开源开放新生态。

上一篇

昇腾AI@大连 | 怡升科技推出生态环境多模态人工智能系统,释放环保产业数据新价值

下一篇

基于昇腾AI | 秦岭·秦川交通大模型,赋能西安打造智慧交通创新支点