当前位置:   article > 正文

深度学习算法 | Python实现深度学习调参(RNN、CNN)_python 深度学习算法

python 深度学习算法

深度学习算法 | Python实现深度学习调参(RNN、CNN)

基本介绍

确认影响模型性能的组件。感性认识就是,数据是否需要增加或增广。模型是大了还是小了,再根据速度和精度期望开始寻找合适的模型。能用全卷积的任务,少用全连接层,参数量小。基本模型上 ResNet, Unet 结构还是主流。
当你的模型有 Batch Normalization,初始化通常不需要操心,激活函数默认 Relu 即可(某引用数万的大佬说的)。一般顺序是 Conv - BN - Relu。如果没有 BN(很多任务上,BN降低训练难度,但是可能影响最终性能 ),试着要做一些数据归一化。
虽然有至少十种激活函数,但在 Relu 外只推荐试一下 Swish。优化器只推荐 Momentum 和 Adam。在这些

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/482715
推荐阅读
相关标签
  

闽ICP备14008679号