昇腾社区首页
中文
注册
开发者
下载

(beta)torch_npu.contrib.Prefetcher

产品支持情况

产品 是否支持
[object Object]Atlas A3 训练系列产品[object Object]
[object Object]Atlas A2 训练系列产品[object Object]
[object Object]Atlas 推理系列产品[object Object]
[object Object]Atlas 训练系列产品[object Object]

函数原型

[object Object]

功能说明

NPU设备上的数据预取器,主要用于优化数据加载流程,提升训练效率。

参数说明

  • loader (torch.utils.data.DataLoader or DataLoader like iterator):必选参数。预处理后的输入数据。
  • stream (torch.npu.Stream):可选参数,默认值为None。由于NPU内存逻辑限制,如果要在训练中重复初始化prefetcher,就需要指定一个stream来防止内存泄漏;如果prefetcher仅在训练中被初始化一次,则无需指定stream,会自动创建一个stream。