当前位置:   article > 正文

GoogLeNet 网络简介

googlenet

GoogLeNet 网络简介

目录:

  • GoogLeNet 历史
  • 网络亮点
  • Inception结构
  • 辅助分类器(Auxiliary Classifier)
  • 网络结构
  • 模型参数对比

参考资料:

  • 5.1 GoogLeNet网络详解 https://www.bilibili.com/video/BV1z7411T7ie
  • 深入解读GoogLeNet网络结构(附代码实现) https://blog.csdn.net/qq_37555071/article/details/108214680

GoogLeNet 历史

GoogLeNet 在2014年由Google团队提出,获得2014年ImageNet中Classification任务第一名,下为它的原论文https://arxiv.org/pdf/1409.4842.pdf

请添加图片描述

网络亮点

GoogLeNet主要具有以下四个方面的创新:

  • 引入Inception结构,融合不同尺度的特征信息(height,width相同,在channel深度方面进行拼接)
  • 使用1x1的卷积核进行降维以及映射处理
  • 添加两个辅助分类器帮助训练
  • 丢弃全连接层,使用平均池化层,大大减少模型参数

Inception结构

Inception结构的核心思想是将输入特征矩阵进行卷积,使得多个输出特征矩阵的高和宽相同,再将多个输出特征矩阵在深度方向进行拼接。而如图b则是引入了1x1卷积核进行降维(为了减少训练所需参数)的Inception结构。

请添加图片描述

使用1x1的卷积核能够有效地降低训练所需要的参数,下图中,上面是不适用卷积核进行降维的操作,我们需要parameters位819k+,而下面是降维后所需参数,我们需要的parameters为50k+,如下:

请添加图片描述

辅助分类器(Auxiliary Classifier)

根据实验数据,发现神经网络的中间层也具有很强的识别能力,为了利用中间层抽象的特征,在某些中间层中添加含有多层的分类器。如下图所示,红色边框内部代表添加的辅助分类器。GoogLeNet中共增加了两个辅助的softmax分支,作用有两点,一是为了避免梯度消失,用于向前传导梯度。反向传播时如果有一层求导为0,链式求导结果则为0。二是将中间某一层输出用作分类,起到模型融合作用。最后的 l o s s = l o s s 2 + 0.3 ∗ l o s s 1 + 0.3 ∗ l o s s 0 loss=loss_2 + 0.3 * loss_1 + 0.3 * loss_0 loss=loss2+0.3loss1+0.3loss0。实际测试时,这两个辅助softmax分支会被去掉。

在这里插入图片描述

网络结构

请添加图片描述

模型参数对比

在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/338811
推荐阅读
相关标签
  

闽ICP备14008679号