本文共 792 字，大约阅读时间需要 2 分钟。

1 直接在GPUs上构建张量

很多人都是这样在GPUs上创建张量的

t = tensor.rand(2,2).cuda()

然而，这首先创建CPU张量，然后将其转移到GPU……这真的很慢。相反，直接在想要的设备上创建张量。

t = tensor.rand(2,2, device=torch.device('cuda:0'))

2 使用DistributedDataParallel不要使用DataParallel

PyTorch有两个主要的模式用于在多 GPUs训练。

3 DataLoaders中workers的设置

推荐

4 DataLoader中启用pinned_memory时，避免调用torch.cuda.empty_cache()

当你在一个DataLoader中启用pinned_memory时，它“自动将获取的数据张量放在pinned memory中，并使数据更快地传输到CUDA-enabled的gpu”

5 避免CPU和GPU之间的数据传输

避免使用

如果你试图清除附加的计算图，建议使用.detach()。这不会将内存转移到GPU，它会删除任何附加到该变量的计算图。

转载地址：https://liumin.blog.csdn.net/article/details/116520254 如侵犯您的版权，请留言回复原文章的地址，我们会给您删除此文章，给您带来不便请您谅解！