很多小伙伴在學(xué)習(xí)計算機視覺的時候會遇到一些坑。小編對自己遇到的坑進行了一個總結(jié),前人栽坑,后人繞路,希望小伙伴們在讀完這篇pytorch總結(jié)后能避免這些坑。
1.pytorch中轉(zhuǎn)tensor
x=np.random.randint(10,100,(10,10,10))
x=TF.to_tensor(x)
print(x)
這個函數(shù)會對輸入數(shù)據(jù)進行自動歸一化,比如有時候我們需要將0-255的圖片轉(zhuǎn)為numpy類型的數(shù)據(jù),則會自動轉(zhuǎn)為0-1之間
2.stack和cat之間的差別
stack
x=torch.randn((1,2,3))
y=torch.randn((1,2,3))
z=torch.stack((x,y))#默認(rèn)dim=0
print(z.shape)
#torch.Size([2, 1, 2, 3])
所以stack的之后的數(shù)據(jù)也就很好理解了,z[0,...]的數(shù)據(jù)是x,z[1,...]的數(shù)據(jù)是y。
cat
z=torch.cat((x,y))
print(z.size())
#torch.Size([2, 2, 3])
cat之后的數(shù)據(jù) z[0,:,:]是x的值,z[1,:,:]是y的值。
其中最關(guān)鍵的是stack之后的數(shù)據(jù)的size會多出一個維度,而cat則不會,有一個很簡單的例子來說明一下,比如要訓(xùn)練一個檢測模型,label是一些標(biāo)記點,eg:[x1,y1,x2,y2]
送入網(wǎng)絡(luò)的加上batchsize則時Size:[batchsize,4],如果我已經(jīng)有了兩堆數(shù)據(jù),data1:Size[128,4],data2:Size[128,4],需要將這兩個數(shù)據(jù)合在一起的話目標(biāo)data:Size[256,4]。
顯然我們要做的是:torch.cat((data1,data2))
如果我們的數(shù)據(jù)是這樣:有100個label,每一個label被放進一個list(data)中,[[x1,y1,x2,y2],[x1,y1,x2,y2],...]其中data是一個list長度為100,而list中每一個元素是張圖片的標(biāo)簽,size為[4]我們需要將他們合一起成為一Size:[100,4]的的數(shù)據(jù)。
顯然我們要做的是torch.stack(data)。而且torch.stack的輸入?yún)?shù)為list類型!
補充:pytorch中的cat、stack、tranpose、permute、unsqeeze
pytorch中提供了對tensor常用的變換操作。
cat 連接
對數(shù)據(jù)沿著某一維度進行拼接。cat后數(shù)據(jù)的總維數(shù)不變。
比如下面代碼對兩個2維tensor(分別為2*3,1*3)進行拼接,拼接完后變?yōu)?*3還是2維的tensor。
代碼如下:
import torch
torch.manual_seed(1)
x = torch.randn(2,3)
y = torch.randn(1,3)
print(x,y)
結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]
-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 1x3]
將兩個tensor拼在一起:
torch.cat((x,y),0)
結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
-1.5228 0.3817 -1.0276
[torch.FloatTensor of size 3x3]
更靈活的拼法:
torch.manual_seed(1)
x = torch.randn(2,3)
print(x)
print(torch.cat((x,x),0))
print(torch.cat((x,x),1))
結(jié)果
// x
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]// torch.cat((x,x),0)
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 4x3]// torch.cat((x,x),1)
0.6614 0.2669 0.0617 0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661 0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x6]
stack,增加新的維度進行堆疊
而stack則會增加新的維度。
如對兩個1*2維的tensor在第0個維度上stack,則會變?yōu)?*1*2的tensor;在第1個維度上stack,則會變?yōu)?*2*2的tensor。
見代碼:
a = torch.ones([1,2])
b = torch.ones([1,2])
c= torch.stack([a,b],0) // 第0個維度stack
輸出:
(0 ,.,.) =
1 1(1 ,.,.) =
1 1
[torch.FloatTensor of size 2x1x2]
c= torch.stack([a,b],1) // 第1個維度stack
輸出:
(0 ,.,.) =
1 1
1 1
[torch.FloatTensor of size 1x2x2]
transpose ,兩個維度互換
代碼如下:
torch.manual_seed(1)
x = torch.randn(2,3)
print(x)
原來x的結(jié)果:
0.6614 0.2669 0.0617
0.6213 -0.4519 -0.1661
[torch.FloatTensor of size 2x3]
將x的維度互換
x.transpose(0,1)
結(jié)果
0.6614 0.6213
0.2669 -0.4519
0.0617 -0.1661
[torch.FloatTensor of size 3x2]
permute,多個維度互換,更靈活的transpose
permute是更靈活的transpose,可以靈活的對原數(shù)據(jù)的維度進行調(diào)換,而數(shù)據(jù)本身不變。
代碼如下:
x = torch.randn(2,3,4)
print(x.size())
x_p = x.permute(1,0,2) # 將原來第1維變?yōu)?維,同理,0→1,2→2
print(x_p.size())
結(jié)果:
torch.Size([2, 3, 4])
torch.Size([3, 2, 4])
squeeze 和 unsqueeze
常用來增加或減少維度,如沒有batch維度時,增加batch維度為1。
squeeze(dim_n)壓縮,減少dim_n維度 ,即去掉元素數(shù)量為1的dim_n維度。
unsqueeze(dim_n),增加dim_n維度,元素數(shù)量為1。
上代碼:
# 定義張量
import torch
b = torch.Tensor(2,1)
b.shape
Out[28]: torch.Size([2, 1])
# 不加參數(shù),去掉所有為元素個數(shù)為1的維度
b_ = b.squeeze()
b_.shape
Out[30]: torch.Size([2])
# 加上參數(shù),去掉第一維的元素為1,不起作用,因為第一維有2個元素
b_ = b.squeeze(0)
b_.shape
Out[32]: torch.Size([2, 1])
# 這樣就可以了
b_ = b.squeeze(1)
b_.shape
Out[34]: torch.Size([2])
# 增加一個維度
b_ = b.unsqueeze(2)
b_.shape
Out[36]: torch.Size([2, 1, 1])
上面的pytorch總結(jié)是小編自身犯過的錯誤和收集的網(wǎng)友犯過的錯誤以及解決方案,希望能給大家一個參考,也希望大家多多支持W3Cschool。