当前位置:   article > 正文

使用卷积层替代全连接层(VGG16网络,keras)_fc2共享视频

fc2共享视频

    前段时间校招面试的问题有一个就是如何使用卷积层来替代全连接层。以前没有认真考虑过,所以第一时间的想法是1×1的卷积核去实现。后来仔细想一想,1×1卷积核并不能实现这样的功能,涉及到参数共享。昨天,看到PixelLink文字定位网络,该网络使用了VGG网络的全连接层。所以就想着今天使用keras实现下VGG16网络卷积层替换全连接层。参数还是依然使用预训练参数,最后保存参数。查看对比.h5文件,全连接和转换卷积层后的权重一致。下面简单介绍下代码:

  1. from keras.applications.vgg16 import VGG16
  2. from keras.layers import Conv2D
  3. from keras.models import Input,Model
  4. import numpy as np
  5. model = VGG16(weights='imagenet', include_top=True) #####加载VGG16完整模型,包括3层全连接层
  6. block5_pool = model.get_layer('block5_pool').output ######得到block5_pool flatten之前的输入
  7. model.summary() ######block5_pool.shape=(7, 7, 512)
  8. fc1_weight = model.get_layer('fc1').get_weights() ########得到fc1 fc2 和predictions全连接层的权重参数
  9. fc2_weight = model.get_layer('fc2').get_weights() #######fc1 4096个 fc2 4096个 predictions 1000个
  10. predictions_weight = model.get_layer('predictions').get_weights()
  11. ########之前网络是block5_pool.flatten 之后是25088个神经元 后接4096个全连接层神经元,一共有25088×4096+4096=102764544个参数
  12. ########卷积层需要使用 4096个(7×7×512)大小的卷积核去实现这样的功能,输出大小为(None,1,1,4096)。参数量依然是7×7×512×4096+4096=102764544个。
  13. fc1to_conv = Conv2D(filters=4096,kernel_size=(7,7),name='fc1to_conv')(block5_pool)
  14. fc1to_conv_w = fc1_weight[0].reshape(7,7,512,4096)#######这里对取出的全连接层权重直接reshape成卷积层形状大小参数即可
  15. fc1_weight[0] = fc1to_conv_w
  16. ############同理上层输入(None,1,1,4096),这层全连接是4096个神经元,所以本次卷积核就是4096个,卷积核大小就是原来输入张量的h,w。本层的输出(None,1,1,4096)
  17. fc2to_conv = Conv2D(filters=4096,kernel_size=(1,1),name='fc2to_conv')(fc1to_conv)
  18. fc2to_conv_w = fc2_weight[0].reshape(1,1,4096,4096)
  19. fc2_weight[0] = fc2to_conv_w
  20. ###########同理上层输入(None,1,1,4096),这层全连接是1000个神经元,所以本次卷积核就是1000个,卷积核大小就是原来输入张量的h,w。本层的输出(None,1,1,1000)
  21. predictionsto_conv = Conv2D(filters=1000,kernel_size=(1,1),name='predictionsto_conv')(fc2to_conv)
  22. predictionsto_conv_w = predictions_weight[0].reshape(1,1,4096,1000)
  23. predictions_weight[0] = predictionsto_conv_w
  24. new_model = Model(inputs=model.input,outputs=predictionsto_conv)
  25. new_model.get_layer('fc1to_conv').set_weights(fc1_weight)########将对应全连接层权重reshape后送入对应卷积层。
  26. new_model.get_layer('fc2to_conv').set_weights(fc2_weight)
  27. new_model.get_layer('predictionsto_conv').set_weights(predictions_weight)
  28. new_model.summary()
  29. new_model.save_weights('./my_weight.h5') ###########保存卷积层替代全连接层后的权重

      总之,卷积替换全连接层。卷积层的filters大小对应全连接层神经元个数,kernel_size大小对应输入张量的h,w的大小。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/知新_RL/article/detail/306830
推荐阅读
相关标签
  

闽ICP备14008679号