App下載

CUDA 內(nèi)存不足如何解決?

猿友 2021-07-19 16:30:22 瀏覽數(shù) (6994)
反饋

很多小伙伴在跑pytorch的項(xiàng)目的時(shí)候可能會(huì)出現(xiàn)CUDA內(nèi)存不足的情況,或者在使用GPU的時(shí)候明明顯存充足卻一直顯示顯存不足的情況,這個(gè)時(shí)候我們要怎么解決呢?接下來(lái)就來(lái)看看小編是怎么解決的吧。

小編復(fù)現(xiàn)大佬project發(fā)現(xiàn)GPU跑不動(dòng),出現(xiàn)如下報(bào)錯(cuò):

RuntimeError: CUDA out of memory.

看下來(lái)最簡(jiǎn)單粗暴方法就是減少batch_size,慢是慢了不止一點(diǎn)點(diǎn)但至少跑得動(dòng)了!

補(bǔ)充:Pytorch GPU顯存充足卻顯示out of memory解決辦法

今天在測(cè)試一個(gè)pytorch代碼的時(shí)候顯示顯存不足,但是這個(gè)網(wǎng)絡(luò)框架明明很簡(jiǎn)單,用CPU跑起來(lái)都沒(méi)有問(wèn)題,GPU卻一直提示out of memory.

在網(wǎng)上找了很多方法都行不通,最后我想也許是pytorch版本的問(wèn)題,原來(lái)我的pytorch版本是0.4.1,于是我就把這個(gè)版本卸載,然后安裝了pytorch1.1.0,程序就可以神奇的運(yùn)行了,不會(huì)再有OOM的提示了。雖然具體原因還不知道為何,這里還是先mark一下,

具體過(guò)程如下:

卸載舊版本pytorch:

conda uninstall pytorch

安裝pytorch1.1.0,按照官網(wǎng)上的辦法,我的CUDA版本是9.0:

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

以上就是CUDA內(nèi)存不足的解決方法,希望能給大家一個(gè)參考,也希望大家多多支持W3Cschool。


0 人點(diǎn)贊