赞
踩
当使用pytorch写网络结构的时候,本人发现在卷积层与第一个全连接层的全连接层的input_features不知道该写多少?一开始本人的做法是对着pytorch官网的公式推,但是总是算错。
后来发现,写完卷积层后可以根据模拟神经网络的前向传播得出这个。
全连接层的input_features是多少。首先来看一下这个简单的网络。这个卷积的Sequential本人就不再啰嗦了,现在看nn.Linear(???, 4096)这个全连接层的第一个参数该为多少呢?请看下文详解。
class AlexNet(nn.Module):
def __init__(self):
super(AlexNet, self).__init__()
self.conv = nn.Sequential(
nn.Conv2d(3, 96, kernel_size=11, stride=4),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2),
nn.Conv2d(96, 256, kernel_size=5, padding=2),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2),
nn.Conv2d(256, 384, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.Conv2d(384, 384, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.Conv2d(384, 256, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2)
)
self.fc = nn.Sequential(
nn.Linear(???, 4096)
......
......
)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
首先,我们先把forward写一下:
def forward(self, x):
x = self.conv(x)
print x.size()
1
2
3
就写到这里就可以了。其次,我们初始化一下网络,随机一个输入:
import torch
from Alexnet.AlexNet import *
from torch.autograd import Variable
if __name__ == '__main__':
net = AlexNet()
data_input = Variable(torch.randn([1, 3, 96, 96])) # 这里假设输入图片是96x96
print data_input.size()
net(data_input)
1
2
3
4
5
6
7
8
9
10
结果如下:
(1L, 3L, 96L, 96L)
(1L, 256L, 1L, 1L)
1
2
显而易见,咱们这个全连接层的input_features为256。
---------------------
作者:嘿芝麻
来源:CSDN
原文:https://blog.csdn.net/zw__chen/article/details/82839061
版权声明:本文为博主原创文章,转载请附上博文链接!
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。