CANN商用版

提供快速安装CANN的步骤，相关使用指导请参见快速安装FAQ。

全量CANN软件安装指南，提供不同操作系统及业务场景下安装、升级、卸载CANN的操作指导。

基于Ascend C算子编程语言进行算子开发，相关API请参见Ascend C API。

介绍如何基于通信算子API开发AI CPU与AIV通信算子。

CANN提供了C&C++、Python语言API开发AI应用，您可以基于这套接口，利用AI处理器的硬件计算资源进行各种加速计算，典型的包括神经网络推理、图形图像预处理以及各种科学计算等。

基于GE提供的接口进行图开发，包括构图、改图、编译与运行图等，相关API请参见GE 图引擎API、基础数据结构和接口。

Ascend C提供的基础API、高阶API等。

Runtime通过提供统一的API，使得上层应用和框架能够高效利用AI处理器的硬件计算资源。

通过GE图引擎接口构造直接在昇腾平台上运行的图。

提供丰富的深度优化、硬件亲和的高性能算子。

基于昇腾AI处理器的高性能集合通信库，提供单机多卡以及多机多卡间的数据并行、模型并行集合通信方案。

本文档提供单边通信库的开发指南，用于指导开发者如何使用单边通信库接口实现集群间的数据传输，构建大模型推理分离式框架。

介绍Ascend Transformer Boost加速库的使用方法，提升Transformer模型的训练和推理开发效率。

介绍信号处理领域相关的高性能算子的使用方法。

DVPP是AI处理器内置的图像处理单元，通过媒体数据处理接口提供强大的媒体处理硬加速能力，主要包括VPC图片处理、JPEG图片编解码、视频编解码等功能。

提供PyTorch训练场景开发工具、大模型推理开发工具、算子开发工具快速入门指导。

算子开发工具集（msKPP、msOpGen、msOpST、msSanitizer、msDebug和msProf等）的使用指导。

编译算子生成算子二进制文件。

模型转换工具，将网络模型转换为昇腾AI处理器支持的.om格式离线模型。

自动调优工具，充分利用硬件资源，提升网络的性能。

将PyTorch训练脚本一键式迁移至昇腾NPU。

精度比对，辅助定位模型精度问题。

训练、推理各运行阶段的性能数据采集和分析。

测试HCCL集合通信的功能正确性以及性能。

模型压缩工具包，提供量化、张量分解等多种模型压缩特性。

模型训练和推理过程中的内存问题定位。

使用毕昇编译器将算子代码编译成二进制可执行文件和动态库等形式的指导。

基于CCE Intrinsic的异构编程与多流水并行编程，通过CCE Intrinsic接口可控制细粒度内存分配、数据同步、double buffer。

基于MLIR构建的，面向昇腾亲和算子编译时使用的中间表示。

问题定位与处理方法，帮助开发者快速定位并解决故障。

介绍日志的内容格式，以及如何查看日志、设置日志级别等。

基于CANN构建AI应用和业务过程中可使用的环境变量。

昇腾AI处理器内置的一些图融合和UB融合规则，图融合和UB融合是整网性能提升的一种关键手段。

算子开发和图开发时依赖的基础数据结构和接口说明。

提供CANN产品通信矩阵、开源软件声明和漏洞修复列表。

CANN提供了基于硬件加速的短特征检索接口，包括特征底库的添加/删除接口、特征向量的修改/删除接口、以及执行检索接口等。

RPing是一种基于RDMA的网络探测技术，用以实现发送检测报文、记录网络时延、统计报文收发情况。

基于TBE、AI CPU接口开发TBE和AI CPU自定义算子。

使用LLM DataDist接口对大模型的推理进行分离部署，从而提高大模型推理的吞吐性能。

通过DataFlow C++和Python API构建、修改、编译和执行计算图，同时提供UDF接口，支持用户通过FuncProcessPoint和GraphProcessPoint编写自定义处理函数。

ISP（Image Signal Processing）相关的算法和功能调试方法。