昇腾AI，加速金融行业智能升级

以下为张迪煊讲话主要观点

今年以来，人工智能取得了突破性进展，技术迎来拐点，大模型呈现出百模千态的繁荣局面；在行业中，人工智能也开始走深向实，应用迎来奇点，服务于越来越多的业务场景。

新一轮科技革命和产业革命成为重构全球经济结构的重要力量，人工智能、区块链等信息技术与金融领域深度融合，成为银行可持续发展的破局之道。面向未来，昇腾AI持续深耕AI根技术，构筑金融科技智能根基，加速行业智能化步伐。

携手伙伴，打造开放领先的AI基础软硬件平台

我们联合产业伙伴，围绕昇腾，共同打造了开放领先的AI基础软硬件平台。在硬件层面，我们联合伙伴打造了模组、板卡、训推一体机、服务器、PoD、集群等全系列人工智能产品，覆盖“云、边、端”全场景。

在软件层面，为了释放昇腾硬件算力，使能开发者生态，我们打造了使能软件CANN，开放底层能力，使能上层框架、加速库、模型和应用开发。

PyTorch社区最新发布的2.1版本，已同步支持昇腾NPU ，后续开发者可直接在PyTorch 2.1上基于昇腾进行模型开发。

截止目前，昇腾发展了30+硬件合作伙伴，200万+开发者，1300+行业合作伙伴，共同孵化了超过2600个解决方案，为中国人工智能产业繁荣提供一个强健、稳固的基石。

发挥系统级综合优势，助力金融行业构建超高可靠训练集群

人工智能进入大模型时代，大算力集群正在成为人工智能发展的制高点和核心引擎。面向大模型训练，华为通过系统级创新持续构筑业界领先的AI集群能力。

当前，我们已支撑20+城市人工智能计算中心建设，且在金融行业与多家头部金融机构展开大模型联合创新，支撑金融行业集群建设。

昇腾全域协同构筑极致性能，全面开放兼容业界生态

为了更好的支撑和加速大模型的创新，我们也在CANN、框架、工具链等基础软件上持续深耕，围绕开发、训练、微调、推理等环节，全流程使能大模型。

面向Transformer网络模型的开发，我们升级了Ascend C编程语言，以更高效的编程方式，简化算子实现逻辑，将融合算子的开发周期从2人月缩短到2人周，使能AI模型与应用的快速开发，助力金融科技原生构筑差异化竞争力。

此外，昇腾面向算子、框架、加速库和大模型全面开放，广泛支持、兼容业界生态，为大模型创新提供更多灵活选择。提供丰富的融合算子，如主流的FlashAttention、FFN等，可在昇腾上实现性能倍级提升；全面支持PyTorch、飞桨、昇思等业界主流框架。

除了兼容业界主流的DeepSpeed、Megatron外，昇腾自主构建了大模型加速库AscendSpeed，提供丰富的大模型训练并行能力。同时，HuggingFace社区最新的Transformers、Accelerate等代码仓已原生支持昇腾，开发者直接下载，安装即用。

目前，已有50+主流的基础大模型基于昇腾训练迭代，9家伙伴发布了大模型训推一体机，为行业提供更加丰富的选择。

昇腾AI，加速金融行业智能化升级

金融行业基于AI大模型，已在客户服务、风险防控、AI遥感等多个业务领域落地应用，并取得良好效果。

在推动金融行业迈向新阶段的过程中，昇腾既为AI基础设施提供了算力底座，也是企业的AI使能者。关于加速金融行业智能化升级，我们提出三点建议：

一是建议银行金融业可以结合实际场景，小步快跑探索应用。支持知识搜索、数据分析、基于大模型应用探索，同时支持金融行业大模型和传统应用体系的构建。

二是要适度超前建设人工智能基础设施。采用液冷技术路线，避免更多资源浪费，满足未来一段时间的算力增长需求；采用全栈自主创新的技术路线，保障未来数据、算力、算法的可持续迭代和演进。

三是基于业界基础模型孵化L1金融行业大模型。挑选合适的业界L0基础大模型进行金融数据增量训练，高效孵化出匹配自身业务的L1金融大模型;共享行业大模型创新和场景应用实践经验，引领金融科技革新。

毋庸置疑，金融行业已经迫切需要结合自身情况，深化与产学研用各界合作，加快探索引入、打造业界通用大模型技术的策略和实践，方能有效加快推进异构算法的协同融合，不断提升算法服务金融行业能力，实现金融智能化的跨越式发展。

展望未来，新时代对于金融行业来说，充满机遇的同时也充满挑战。华为携手伙伴，联合银行客户深化合作，开展创新，共享昇腾新成果，探索金融新机遇，快速推进人工智能在金融领域的深化应用。