使用锁页内存

使用场景

开启锁页内存是将数据直接放在锁页内存中,因此可以更快地将数据转换到支持的NPU内。

操作步骤

样例脚本优化前如下。

dataloader = torch.utils.data.Dataloader(dataset, batch_size, shuffle, num_workers)

优化后,开启pin_memory=True。

dataloader = torch.utils.data.Dataloader(dataset, batch_size, shuffle, num_workers, pin_memory=True)