深度学习-回顾CNN经典网络LetNet

作者：你好赵伟 | 2024-03-17 09:28:56

踩

深度学习中，从LetNet到当前最火的GPT所用的Transformer，经典网络引领一波又一波的技术革命，它们把AI技术不断推向高潮。

用pytorch构建CNN经典网络模型LetNet，还可用数据进行训练模型，得到一个优化的模型。

数据分析

数据分析-Pandas如何转换产生新列

数据分析-Pandas如何统计数据概况

数据分析-Pandas如何轻松处理时间序列数据

数据分析-Pandas如何选择数据子集

数据分析-Pandas如何重塑数据表-CSDN博客

经典算法

经典算法-遗传算法的python实现

经典算法-模拟退火算法的python实现

经典算法-粒子群算法的python实现-CSDN博客

LeNet概述

LeNet是由Yann Lecun（2018年图灵奖得主，CNN的缔造者）创造的CNN经典网络，是卷积神经网络史上的开篇之作。

LeNet诞生于1990年，在手写体字符识别领域创造性的引入了卷积神经网络的基本操作，意义重大，可以说是现代卷积神经网络的发展起点。

网络结构

输入图像分辨率：28x28 单通道

结构：

（1）卷积层1：5x5 —>输出4个24×24大小的特征图；

（2）池化层1：平均池化层 2x2；

（3）卷积层2：5x5 —>输出12个8x8大小的特征图；

（4）池化层2：2x2

（5）全连接层 ---->输出

优势与不足

优势：采用CNN自动提取特征。

不足：使用了平均池化，一般而言，不如Max-Pooling提取特征具有分类辨识度。

Pytorch实现

以下便是使用Pytorch实现的经典网络结构LeNet：

class LeNet(nn.Module):
    def __init__(self, num_classes, grayscale=False): 
        """
        num_classes: 分类的数量
        grayscale：是否为灰度图
        """
        super(LeNet5, self).__init__()

        self.grayscale = grayscale
        self.num_classes = num_classes

        if self.grayscale: # 可以适用单通道和三通道的图像
            in_channels = 1
        else:
            in_channels = 3

        # 卷积神经网络
        self.features = nn.Sequential(
            nn.Conv2d(in_channels, 4, kernel_size=5),
            nn.ReLU(),
            nn.MaxPool2d(kernel_size=2),
            nn.Conv2d(4, 12, kernel_size=5),
            nn.ReLU(),
            nn.MaxPool2d(kernel_size=2)   # 原始的模型使用的是 平均池化
        )
        # 分类器
        self.classifier = nn.Sequential(
            nn.Linear(12*4*4, num_classes)  # 全连接层
        )

    def forward(self, x):
        x = self.features(x) # 输出 12*4*4 特征图
        x = torch.flatten(x, 1) # 展平 （1， 12*4*4）
        logits = self.classifier(x) # 输出 10
        probas = F.softmax(logits, dim=1)
        return logits, probas
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36