一起昇腾，逐梦未来

5月10日，以“一起昇腾，逐梦未来”为主题的昇腾AI开发者峰会在北京举行。会上，华为昇腾计算业务总裁张迪煊发表《一起昇腾，逐梦未来》主题演讲，他表示：华为自2018年发布AI战略以来，坚持聚焦基础软硬件，打造坚实AI算力底座，支撑各位开发者在原生创新的道路上走的更远。今年，我们围绕算子、模型和应用的开发，全面升级昇腾AI基础软件，激发开发者原生动力，突破创新边界。

华为昇腾计算业务总裁 张迪煊

以下是张迪煊演讲要点

近年来，人工智能领域涌现出大批优秀的年轻开发者和创业者，怀着对新技术的好奇与对未来的信念，走上人工智能开发者之路，改变自己的未来。每一位开发者都有属于自己的昇腾故事，感谢开发者的一路同行，让每一个故事汇聚成人工智能的繁荣生态。 

在大家的共同努力下，昇腾开发者突破300万，核心贡献者超3万人，硬件伙伴超40家，软件伙伴超1600家，联合孵化2900多个AI场景化方案，加速行业数智化。昇思下载量突破720万，昇思社区核心贡献者达到2.9万人，发表1200多篇原创论文，被评为Gitee AI全领域项目NO. 1，成为中国最佳开源贡献项目。50余个业界主流大模型基于昇腾孵化及适配，支撑近一半的中国原创大模型。 

人工智能技术加速迭代，每一次迭代都带动了更多行业变革与影响。思而不同，行有所成。作为时代的开发者，跟随意味着被束缚，我们需要始终保持原生创造力，才能找到属于自己的道路，创造独特价值。 

华为自2018年发布AI战略以来，坚持聚焦基础软硬件，打造坚实AI算力底座，支撑各位开发者在原生创新的道路上走的更远。今年，我们围绕算子、模型和应用的开发，全面升级昇腾AI基础软件，激发开发者原生动力，突破创新边界。

• 面向算子创新，异构计算架构CANN进一步开放、Ascend C编程语言全面升级，使能开发者快速构建差异化、更具竞争力的算子； 
• 面向模型创新，昇思MindSpore 2.3新版本支持动静统一，兼顾开发效率与执行性能，支撑模型高效原生开发。同时持续保持与PyTorch、飞桨PaddlePaddle、TensorFlow等业界框架的紧密合作，提升模型开发体验； 
• 面向应用创新，通过提供昇腾推理引擎、场景化SDK，支撑开发者快速完成推理应用部署，加速大模型的创新落地； 
• 面向集群高效运维，提供CCAE集群自智引擎，支持系统体检、故障检测、跨界定位等能力，提升运维效率。

华为昇腾计算业务总裁 张迪煊

CANN进一步开放，助力开发者构筑差异化竞争力

昇腾异构计算架构CANN（Compute Architecture for Neural Networks）是充分释放处理器性能的关键，也是原生创新的基础。CANN自发布以来，在性能、易用性和开放性方面持续优化。
2023年9月，我们开放了Runtime运行时，让开发者可以直接调用NPU内部资源，自主构筑极致性能大算子和加速库。今天，我们进一步开放CANN，为开发者提供更加丰富、灵活的原生开发工具：

• 开发者可以灵活调用驱动以及运行时的能力，释放硬件性能；
• 通过Ascend C接口类库及算子加速库，获得原生开发能力；
• 通过集合通信接口，自定义通信策略，获得更高的通信性能；
• 通过GE图引擎接口，自定义图结构，获得最优图性能。

目前，基于CANN开发的融合算子数量已扩充到80多个，覆盖主流大模型，能够有效帮助开发者借助CANN构筑差异化能力。

CANN进一步开放

Ascend C 2.0正式发布

算子是模型的灵魂，算子的能力决定了模型的能力。去年，我们发布了Ascend C 1.0，结合开发者的反馈，在易用性上做了更多改进。
今天，Ascend C 2.0正式发布。Ascend C 2.0提供更丰富的API资源，覆盖当前主流的融合算子开发场景，提升开发效率。
同时，Ascend C 2.0提供通信与计算融合的开发接口，实现通信与计算并行，通信效率与整网性能均有明显提升。
在调试方面，Ascend C 2.0提供自动化内存异常检测以及上板调试功能，用以解决内存异常定位难及上板调试难等问题，典型算子功能调试耗时降低至小时级。

Ascend C 2.0正式发布

昇思MindSpore2.3核心架构演进，兼顾开发效率与执行性能

昇思持续升级，最新的昇思MindSpore 2.3版本增强了动态图开发、静态图编译等能力，一套架构全面支持动静统一，兼顾开发效率与执行性能，支撑开发者进行更高效的模型原生开发。
在不同开发场景下，动态图支持单算子直调，大幅提升开发易用性，开发效率提升50%；
静态图支持多级编译优化，LLamA2-70B模型在整图下沉编译的模式下，仅需要6.5分钟编译时间，性能即可提升15%。
此外，随着AI技术不断演进，基于套件的模型开发逐渐成为主流趋势，目前昇思提供丰富的大模型开发套件，覆盖Transformer与生成式两大领域，支持Open-Sora、LLaMA3等30多个主流开源大模型，实现开箱即用。

昇腾推理引擎MindIE正式上线社区

昇腾推理引擎分层开放，支持开发者在应用层、服务化层和运行时层都能进行高效的推理应用开发。
通过Transformer高性能算子、模型压缩、动态分割以及并行解码等技术，将推理应用平均开箱性能提升6倍；
通过训推同架构的算子和模型支持，实现“零”算子适配开发，支持开发者获得流畅的模型训推转换体验，小时级即可完成转换。
今天，昇腾推理引擎MindIE正式上线昇腾社区，欢迎大家体验。

昇腾推理引擎MindIE正式上线

MindX 6.0最新发布知识增强SDK

面向行业应用开发，MindX 6.0最新版本对视觉分析、检索聚类和智能推荐三大SDK进行了升级。

视频分析SDK支持160路高清视频、50路5G视频通话，领先业界。同时提供目标结构化、图片流分析、视频流推理等100+参考设计；
检索聚类SDK提供大batch搜索及近似检索能力，并在智慧城市等场景规模应用；
智能推荐SDK实现“2天，0代码”的算法自动迁移，支持基础算子二次开发，构筑差异化能力，目前已在互联网场景规模应用。

今天，面向个人助理场景，正式发布知识增强SDK。
相较于通用的大语言模型，知识增强SDK在上下文理解、内容生成质量和实时性方面都展现出了明显优势。借助知识增强SDK，开发者可以快速实现多种场景的RAG应用，同时获得高性能、轻量化和易调优的开发体验。

坚定围绕“原生”，以“技术+商业”双轮驱动生态繁荣

昇腾生态的发展离不开每一位开发者的贡献。我们将坚定围绕“原生”，以“技术+商业”双轮驱动生态繁荣。
面向技术生态，今天上午全新发布了昇腾万里开发者计划和原生人才高校促进计划，我们将在“昇思+CANN”的学术基金、社区贡献激励、昇腾创新大赛等系列活动中持续投入，牵引和使能开发者基于昇腾，原生构筑算子、模型和应用，加速原生人才的培养。
面向商业生态，我们将持续深化昇腾万里合作伙伴计划，通过研发、市场、算力等激励，赋能伙伴打造更具竞争力的硬件产品和解决方案，支撑伙伴商业成功。
希望能以技术创新驱动商业发展，以商业目标牵引技术突破。也期待更多人的加入，一起汇聚智慧的星星之火，共筑可持续、有韧性的人工智能生态。

时代在转变，产业在聚变，技术在演变，唯有创新不变。Make a difference，Do it better，让我们一起迎接变化，创造可能，逐梦未来，闪耀这个时代!