昇腾社区首页
中文
注册

7.1.0版本配套文档

文档名称

内容简介

更新说明

Ascend Extension for PyTorch 软件安装指南

提供在昇腾设备安装PyTorch框架训练环境,以及升级、卸载等操作。

新增支持PyTorch 2.6.0的适配。

PyTorch 训练模型迁移调优指南

包含模型的迁移及调优、精度问题定位、性能问题解决等指导,并提供了常用模型案例库。

  • 新增支持PyTorch 2.6.0的适配。
  • 更新特征值检测功能。
  • 整合混合精度原理与计算过程。

PyTorch 框架特性指南

基于Ascend Extension for PyTorch提供昇腾AI处理器的超强算力,从内存优化、报错定位、高性能计算等方面打造一系列独有特性。

  • 更新自动绑核。
  • 更新特征值检测。
  • 新增自定义算子适配开发。

PyTorch 图模式使用指南(TorchAir)

作为昇腾Ascend Extension for PyTorch的图模式能力扩展库,提供昇腾设备亲和的torch.compile图模式后端,实现PyTorch网络在昇腾NPU上的图模式推理加速和优化。

  • 完善max-autotune和reduce-overgead模式介绍和功能分类。
  • 新增optimization_switch、标定SuperKernel范围、AI Core和Vector Core核数配置等功能。
  • 新增图模式下精度比对和性能分析指导。

Ascend Extension for PyTorch 自定义API参考

提供Ascend Extension for PyTorch自定义API的函数原型、功能说明、参数说明与调用示例等。

新增支持PyTorch 2.6.0的适配。

PyTorch 原生API支持度

提供PyTorch2.6.0/2.5.1//2.1.0版本原生API在昇腾设备上的支持情况。

  • 新增支持PyTorch 2.6.0的适配。
  • 刷新部分原生API支持度。

套件与三方库支持清单

介绍昇腾设备支持的模型套件与加速库、昇腾已原生支持的第三方库和昇腾自研插件。

  • 新增原生支持第三方库:TorchData、torchtune、xtuner。
  • 删除自定义算子适配开发。
  • 拆分昇腾模型套件与加速库。

环境变量参考

Ascend Extension for PyTorch训练和在线推理过程中可使用的环境变量。

  • 新增“NPU_ASD_CONFIG”。
  • 部分环境变量新增支持Atlas 推理系列产品