当前位置:   article > 正文

使用pytorch查看中间层特征矩阵以及卷积核参数_pytorch查看卷积核

pytorch查看卷积核

这里是记录如何查看网络结构和特征图信息的笔记,是一个学习记录
内容来自于B站视频:霹雳吧啦Wz
根据up本次讲的内容,主要包括如下4个部分
在这里插入图片描述其中:
AlexNet.pth是训练5种花分类数据集的权重文件,这里是和模型相对应的,因为模型是自己搭建的,从官网下载的是不能用的
alexnet_model.py是自己搭建的alexnet的实现过程
analyze_feature_map.py是查看网络前向传播过程中的特征图部分代码
analyze_kernel_weight.py是查看网络搭建过程中的核参数部分代码
打印模型的网络结构:打印出来的模型结构和搭建的模型结构保持一致
在这里插入图片描述
这里有两个层结构features和classifier
定义的这两个层结构都是通过nn.Sequential这个类打包一系列结构实现
打印出来的结构和搭建的网络对比如下,都是一一对应:
在这里插入图片描述
但是,搭建出来的网络和以前搭建出来的网络,唯一不同的地方就是正向传播过程,因为需要得到中间层输出的特征矩阵,不同之处和具体的意义如下:
在这里插入图片描述
可以设置断点打印,查看是不是和想的一样,如下:
这里可以看出每遍历一个,都会输出相应的结果,执行的每一步都和代码结构对应的上
在这里插入图片描述
需要注意的是:Debug功能中,打上断点单步运行,调试的程序应该是有入口的程序,而不是调试函数,因为函数没有调用的话,就是调试也没有结果!(重要)
再次设置断点,今天调试,看看输出的结果:
在这里插入图片描述
这里的结果是刚刚说到的**(0,3,6)这个列表!返回了第1个,第3个,第6层**,也就是前3个卷积层!

# alexnet_model部分代码
import torch.nn as nn
import torch


class AlexNet(nn.Module):
    def __init__(self, num_classes=1000, init_weights=False):
        super(AlexNet, self).__init__()
        self.features = nn.Sequential(
            nn.Conv2d(3, 48, kernel_size=11, stride=4, padding=2),  # input[3, 224, 224]  output[48, 55, 55]
            nn.ReLU(inplace=True),
            nn.MaxPool2d(kernel_size=3, stride=2),                  # output[48, 27, 27]
            nn.Conv2d(48, 128, kernel_size=5, padding=2),           # output[128, 27, 27]
            nn.ReLU(inplace=True),
            nn.MaxPool2d(kernel_size=3, stride=2),                  # output[128, 13, 13]
            nn.Conv2d(128, 192, kernel_size=3, padding=1),          # output[192, 13, 13]
            nn.ReLU(inplace=True),
            nn.Conv2d(192, 192, kernel_size=3, padding=1),          # output[192, 13, 13]
            nn.ReLU(inplace=True),
            nn.Conv2d(192, 128, kernel_size=3, padding=1),          # output[128, 13, 13]
            nn.ReLU(inplace=True),
            nn.MaxPool2d(kernel_size=3, stride=2),                  # output[128, 6, 6]
        )
        self.classifier = nn.Sequential(
            nn.Dropout(p=0.5),
            nn.Linear(128 * 6 * 6, 2048),
            nn.ReLU(inplace=True),
            nn.Dropout(p=0.5),
            nn.Linear(2048, 2048),
            nn.ReLU(inplace=True),
            nn.Linear(2048, num_classes),
        )
        if init_weights:
            self._initialize_weights()

    def forward(self, x): #和原来搭建的alexnet不一样,需要得到中间输出的特征矩阵
        outputs = []
        for name, module in self.features.named_children(): #遍历搭建的features层结构,包括层名称和层结构两个部分
            x = module(x)
            if name in ["0", "3", "6"]:#这里是判断层名称是不是第1个,第2个和第3个
                outputs.append(x) #对于满足的层,都添加到output这个输出列表当中

        return outputs #返回output这个列表

    def _initialize_weights(self):
        for m in self.modules():
            if isinstance(m, nn.Conv2d):
                nn.init.kaiming_normal_(m.weight, mode='fan_out', nonlinearity='relu')
                if m.bias is not None:
                    nn.init.constant_(m.bias, 0)
            elif isinstance(m, nn.Linear):
                nn.init.normal_(m.weight, 0, 0.01)
                nn.init.constant_(m.bias, 0)

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
# analyze_feature_map部分代码
import torch
from alexnet_model import AlexNet
from resnet_model import resnet34
import matplotlib.pyplot as plt
import numpy as np
from PIL import Image
from torchvision import transforms

# 这里是图像预处理过程,这个训练过程要和训练过程的图像预处理过程一致(重要)
data_transform = transforms.Compose(
    [transforms.Resize((224, 224)),
     transforms.ToTensor(),
     transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])

# data_transform = transforms.Compose(
#     [transforms.Resize(256),
#      transforms.CenterCrop(224),
#      transforms.ToTensor(),
#      transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])])

# create model
model = AlexNet(num_classes=5)  #实例化AlexNet模型,这里使用的是AlexNet这个模型
# model = resnet34(num_classes=5)
# load model weights

#这是训练出来的权重参数,注意,这个要和那个模型保持一致,必须是那个模型训练出来的,自己训练出来的权重文件,否则可能报错(权重与模型一致)!
model_weight_path = "./AlexNet.pth"  # "./resNet34.pth"
model.load_state_dict(torch.load(model_weight_path))  #载入预训练好的模型参数
print(model) #打印这个模型的结构

# load image
img = Image.open("../tulip.jpg") #载入一张图片
# [N, C, H, W]
img = data_transform(img)  #对载入的图片进行预处理
# expand batch dimension
img = torch.unsqueeze(img, dim=0) #增加一个batch维度

# forward
out_put = model(img) #把图片输入到这个模型,进行正向传播
for feature_map in out_put:
    # [N, C, H, W] -> [C, H, W]
    im = np.squeeze(feature_map.detach().numpy()) #将特征图转化为numpy格式,方便后续的分析 #就传入了一张图片,N维度是没有意义的,就把这一层给压缩掉
    # [C, H, W] -> [H, W, C]
    im = np.transpose(im, [1, 2, 0]) #将特征矩阵的排列方式进行改变

    # show top 12 feature maps 打印12张特征图
    plt.figure()
    for i in range(12):
        ax = plt.subplot(3, 4, i+1) #3行4列
        # [H, W, C]
        plt.imshow(im[:, :, i], cmap='gray')
    plt.show()


  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55

运动结果: 这里每一张图都是经过这个通道学习到的特征
第1个卷积层后
在这里插入图片描述
第2个卷积层后:
在这里插入图片描述
第3个卷积层后:
在这里插入图片描述
注意:
1.前面的层提取的是低层次特征,越往后的层提取的信息越高层次,也就越抽象
2.特征图中白色的部分代表的是,网络所关注的部分,也就是学习到的特征
3.全黑色的图说明卷积核并没有起到太多的作用,没有学到有用的信息

卷积核参数部分待补充

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/717102
推荐阅读
相关标签
  

闽ICP备14008679号