首页 > 知识库 > 生活常识 >

pytorch使用指定GPU训练的实例(PyTorch深度学习快速入门教程利用GPU训练(一))

生活常识 2022-12-12 18:27:19
本文适合多GPU的机器,并且每个用户需要单独使用GPU训练。虽然pytorch提供了指定gpu的几种方式,但是使用不当的...更多pytorch使用指定GPU训练的实例的内容,欢迎关注我们的专题频道。

PyTorch深度学习快速入门教程利用GPU训练(一)

pytorch使用指定GPU训练的实例

pytorch使用指定GPU训练的实例(PyTorch深度学习快速入门教程利用GPU训练(一))

本文适合多GPU的机器,并且每个用户需要单独使用GPU训练。

虽然pytorch提供了指定gpu的几种方式,但是使用不当的话会遇到out of memory的问题,主要是因为pytorch会在第0块gpu上初始化,并且会占用一定空间的显存。这种情况下,经常会出现指定的gpu明明是空闲的,但是因为第0块gpu被占满而无法运行,一直报out of memory错误。

解决方案如下:

指定环境变量,屏蔽第0块gpu

CUDA_VISIBLE_DEVICES = 1 main.py

这句话表示只有第1块gpu可见,其他gpu不可用,此时要注意第1块gpu已经变成第0块,因此代码里应该使用编号0来指定gpu。如果依然使用cuda:1会报invalid device ordinal。

当然也可以在代码里使用os模块达到同样效果:

import os#多块使用逗号隔开os.environ['CUDA_VISIBLE_DEVICES'] = '1'使用torch.cuda.devicewith torch.cuda.device(1): ...

注意这种情况下gpu编号也会改变

关于这个问题的讨论,感兴趣的也可以去这里查看cuda out of memory error when GPU0 memory is fully utilized

以上这篇pytorch使用指定GPU训练的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我们。


pytorch使用指定GPU训练的实例拓展阅读

pytorch使用指定GPU训练的实例(PyTorch深度学习快速入门教程利用GPU训练(一))

本文适合多GPU的机器,并且每个用户需要单独使用GPU训练。虽然pytorch提供了指定gpu的几种方式,但是使用不当的话会遇到out of memory的问题....
以上就是关于pytorch使用指定GPU训练的实例(PyTorch深度学习快速入门教程利用GPU训练(一))的所有内容,希望对你学习有所帮助。

标签: pytorch使用指定GPU训练的实例

【免责声明】本站所有文章(含图片和视频)由网站用户自行上传发布,平台仅提供信息存储服务,并不代表本站立场和观点,若有侵犯你的权利,请及时联系我们删除。
Copyright © 2016-2020 shuguohai.com All Rights Reserved. 皖ICP备2022016496号