昇腾社区首页
中文
注册

接口变更说明

本章节的接口变更说明包括新增、修改、废弃和删除。接口变更只体现代码层面的修改,不包含文档本身在语言、格式、链接等方面的优化改进。

  • 新增:表示此次版本新增的接口。
  • 修改:表示本接口相比于上个版本有修改。
  • 废弃:表示该接口自作出废弃声明的版本起停止演进,且在声明一年后可能被移除。
  • 删除:表示该接口在此次版本被移除。
表1 Ascend Extension for PyTorch接口变更汇总

变更版本

类名/API原型

类/API类别

变更类别

变更说明

v2.1.0

torch.logit

原生接口

新增

新增接口

torch_npu.npu_top_k_top_p

自定义接口

新增

新增接口

torch_npu.npu_gather_sparse_index

自定义接口

新增

新增支持

torch_npu.npu_alltoallv_gmm

自定义接口

新增

新增支持

torch_npu.npu_gmm_alltoallv

自定义接口

新增

新增支持

torch_npu.npu_mla_prolog_v2

自定义接口

新增

新增支持

torch_npu.npu_transpose_batchmatmul

自定义接口

新增

新增支持

torch_npu.npu_moe_distribute_combine_add_rms_norm

自定义接口

新增

新增支持

torch_npu.utils.set_thread_affinity

自定义接口

新增

新增接口

torch_npu.utils.reset_thread_affinity

自定义接口

新增

新增接口

torch_npu.erase_stream

自定义接口

新增

新增接口

torch_npu.empty_with_swapped_memory

自定义接口

新增

新增接口

torch_npu.matmul_checksum

自定义接口

新增

新增接口

torch_npu.npu.ExternalEvent

自定义接口

新增

新增接口

torch_npu.npu.graph_task_group_begin

自定义接口

新增

新增aclgraph相关接口

torch_npu.npu.graph_task_group_end

自定义接口

新增

新增aclgraph相关接口

torch_npu.npu.graph_task_update_begin

自定义接口

新增

新增aclgraph相关接口

torch_npu.npu.graph_task_update_end

自定义接口

新增

新增aclgraph相关接口

torch.npu.NPUGraph.reset

原生接口

新增

新增aclgraph相关接口

torch.npu.NPUGraph.pool

原生接口

新增

新增aclgraph相关接口

torch.npu.NPUGraph.replay

原生接口

新增

新增aclgraph相关接口

torch.npu.NPUGraph.capture_begin

原生接口

新增

新增aclgraph相关接口

torch.npu.NPUGraph.capture_end

原生接口

新增

新增aclgraph相关接口

torch.npu.make_graphed_callables

原生接口

新增

新增aclgraph相关接口

torch.npu.is_current_stream_capturing

原生接口

新增

新增接口

torch.npu.StreamContext

原生接口

新增

新增接口

torch_npu.npu_grouped_matmul

自定义接口

修改

入参group_list为Tensor类型时,入参group_type需要显示传入,具体可参考对应资料获取详细信息。

v2.5.1

变更同v2.1.0版本

v2.6.0

变更同v2.1.0版本

Ascend Extension for PyTorch新增部分API支持及特性支持,具体可参考Ascend Extension for PyTorch 自定义API参考PyTorch 原生API支持度

表2 openMind接口变更汇总

变更版本

类名/API原型

类/API类别

变更类别

变更说明

1.2.0

openmind-cli train

命令行接口

修改

  • 新增disable_fused_options入参:支持一键开启或关闭融合算子
  • 新增sequence_parallel_size入参:支持序列并行

openmind-cli export

命令行接口

修改

  • 新增fp16和bf16入参:支持用户指定模型加载的数据类型
  • 新增环境变量支持:支持使用ASCEND_RT_VISIBLE_DEVICES处理多卡情况

openmind-cli eval

命令行接口

修改

新增fp16和bf16入参:支持用户指定模型加载的数据类型

openmind-cli deploy

命令行接口

修改

  • 新增backend_config入参:支持传入复数后端自定义参数
  • 新增后端支持:backend入参支持传入vllm
  • 新增环境变量支持:支持使用ASCEND_RT_VISIBLE_DEVICES处理多卡情况

openmind-cli chat

命令行接口

修改

新增环境变量支持:支持使用ASCEND_RT_VISIBLE_DEVICES处理多卡情况

openMind新增部分API支持及特性支持,具体可参考《API参考》。