开启锁页内存是将数据直接放在锁页内存中,因此可以更快地将数据转换到支持的NPU内。
样例脚本优化前如下。
dataloader = torch.utils.data.Dataloader(dataset, batch_size, shuffle, num_workers)
优化后,开启pin_memory=True。
dataloader = torch.utils.data.Dataloader(dataset, batch_size, shuffle, num_workers, pin_memory=True)