华为全联接大会2024“激发原生创新,拥抱数智世界”昇腾产业峰会成功举办
产业开发者生态伙伴
发表于 2024/09/26
产业开发者生态伙伴
发表于 2024/09/26
[中国,上海,2024年9月20日]在华为全联接大会2024期间,以“激发原生创新,拥抱数智世界”为主题的昇腾产业峰会在上海成功举行。峰会现场,21家行业领军企业发布基于昇腾AI的大模型推理行业解决方案,金融信创生态实验室、北京金融科技产业联盟联合发布《昇腾在金融行业的应用与生态白皮书》,众多昇腾产业伙伴分享基于昇腾的原生实践,共同加速AI应用落地,使能千行万业数智化升级。
华为董事、ICT产品与解决方案总裁杨超斌在致辞中表示,华为将继续坚定加大昇腾原生投入,使能伙伴原生创新,加速人工智能行业落地。在人工智能解决方案创新上,充分发挥在计算、网络、存储等多领域的技术协同优势,以系统级架构的持续创新,提供原生动力。在生态构建上,秉持“开放、利他”的理念,将能力开放给伙伴,实现共赢发展。目前已有50多家生态伙伴发布了基于昇腾的原生开发成果,50多家硬件伙伴打造了200多款产品,2000多家应用伙伴孵化了4000多个行业解决方案,加速了大模型在各行各业的规模应用。未来,华为将坚定不移地与产业和生态伙伴一起,携手打造更丰富的产品和解决方案,助力各行业数字化和智能化转型的进程,加速迈向数智世界。
中国工程院院士、中国商飞首席科学家吴光辉在致辞中提到,中国商飞将继续基于昇腾AI,扩大合作范围,进一步将智能化赋予飞机的设计、制造、运营、维护、管理等各个环节。
激发技术创新:以原生技术促进原生生态
昇腾生态走向原生驱动,离不开每一位客户、伙伴及开发者的共同努力。目前,昇腾已累计培养3万多名原生开发贡献者,20多家伙伴及客户原生打造了100多个核心大算子,孵化了40多个原生大模型以及50多个大模型应用。华为昇腾计算业务总裁张迪煊表示,昇腾AI将坚持深耕基础软硬件,演进训推解决方案,以原生技术促进原生生态。
昇腾训练解决方案始终围绕“高性能、高可用、高易用”的方向持续创新,满足模型长稳高效的训练需求。
昇腾独创NB2.0通信算法,将宽带利用率从40%提升到了60%以上,通信算子的执行耗时下降40%以上。
CCAE集群自治引擎提供跨域全栈管理能力,训练支持健康状态检测和预防性维护,训练中支持400+典型故障的动态隔离,保障训练任务的稳定运行。
昇腾率先实现Step级的CKPT保存技术,可以做到万亿模型训练任务分钟级续训,保障大规模集群下的月级稳定训练。
MindSpore持续提升动静统一能力,以1套API使能2种模式开发,让开发者忽略动静态图开发差异。
全新发布昇腾分布式加速套件MindSpore 1.0,预置100+模型、60+加速算法及10余种微调算法,使能从预训练到增量训练全流程加速。
昇腾推理解决方案秉承开放、快速部署、极致性能的原则,在有效吞吐、服务化和部署等能力上持续升级,实现更高的AI落地经济性。
昇腾提供了包含PD分离在内的业界领先的推理加速技术,充分利用设备资源,降低企业AI落地成本;通过训推同架构的算子和模型支持,实现“零”算子适配开发,小时级完成模型从训练到推理的转换,推理应用天级上线。
在算力部署上,昇腾提供包含单机和多机推理在内的软硬件部署能力,面向未来万亿参数、百万级长序列的需求,昇腾将围绕领先的胖节点技术,持续升级推理解决方案。
推理引擎MindIE持续升级关键特性,支持自适应PD分离,面向多模态理解和视频生成提供新套件支持,加快大模型灵活部署。
昇腾坚定围绕原生,以基础软硬件为技术锚点激发原生创新,为伙伴及开发者提供算力、NRE、MDF及社区贡献等权益激励,促进商业共赢,为AI产业持续发展注入原动力。
激发行业创新:加速千行万业数智化升级
面向大模型领域,昇腾AI围绕业务场景构筑领先的推理解决方案,携手伙伴共促行业数智化升级。现场,华为联合科大讯飞、交通银行、钉钉、360等在内的21家伙伴和客户,基于昇腾AI基础软硬件平台共同发布大模型推理行业解决方案,覆盖互联网、金融、政府、政务、制造、媒资、交通等行业,全面使能大模型应用迅速融入各类业务场景。
在金融领域,昇腾AI凭借优异的性能表现和灵活的部署方式,为金融机构提供了强大的AI计算能力,为金融科技的持续发展注入新动能。会上,金融信创生态实验室、北京金融科技产业联盟重磅发布《昇腾在金融行业的应用与生态白皮书》,赋能金融行业智能化发展。
激发实践创新:优秀原生案例分享
会上,来自不同行业的伙伴代表均分享了其在昇腾原生开发的成果实践。
科大讯飞副总裁、AI工程院院长潘青华表示,基于昇腾AI基础软硬件打造的飞星一号平台,已经常态化高效支撑讯飞星火大模型训练,星火大模型在昇腾算力上的训练推理性能也经过充分优化,普遍达到业界90%以上,完全基于昇腾算力原生开发训练的星火V4.0,在国内外中英文12项主流测试集中有8项超过GPT-4Turbo。
腾讯PCG事业群机器学习平台首席技术专家袁镱介绍,腾讯PCG机器学习平台中心携手昇腾AI,自研高性能LLM推理引擎,在传统的算子融合、Continous Batching等推理加速技术的基础上,通过显存优化,异步调度和计算复用等技术,在相同精度的推理中,一念框架吞吐相对业界推理框架提升15%+。
钉钉副总裁、商业平台技术部总经理周鹏表示,智能时代开启后,钉钉在全场景探索大模型在工作领域的应用 ,已经在20条产品线、80多个场景全面完成智能化升级化。同时,为了帮助企业更安全、更快速、更低成本的落地大模型,钉钉联合昇腾打造了专属AI一体机,从硬件到软件深度协同优化,为企业提供端到端的私有化大模型落地方案,帮助企业在内部管理、研发生产、产品销售等业务场景实现智能化,目前已经孵化了智能问答、知识搜索、会议分析及智能差旅等多种AI应用。
精英数智科技股份有限公司副总经理、研发中心总经理侯鹏程表示,精英数智基于昇腾原生打造矿山大模型应用——“煤矿大脑”安全管控平台方案,覆盖煤矿生产过程中人、机、环、管四类风险隐患的有效识别、动态评估和精准防控,包含150+应用场景,构建全方位、多层次、立体化的煤矿安全风险双重预防管理体系,助力煤矿生产提效增安。当前方案已经在全国2000多个煤矿实现部署,守护30余万矿工安全。
中国科学院香港创新研究院人工智能与机器人创新中心主任刘宏斌指出,CARES Copilot多模态手术大模型基于昇腾算力底座,结合分阶段、多科室的海量专业临床数据集训练,实现多模态的手术数据理解。该模型已应用于手术规划、气管镜检查、具身超声全自动机器人系统等场景,目前已经在各大医院临床测试中取得良好效果。
大时代将迎来新机遇,昇腾一直是千行万业智能化道路上的坚实伙伴,为企业提供创新动力,让我们携手奋进,迎接变化,创造可能,共同迈向数智未来!
下一篇