Sigmoid激活函数的理解（函数及其导数的图形表示，作用，优缺点）_sigmoid激活函数作用

作者：我家小花儿 | 2024-03-29 03:45:13

踩

sigmoid激活函数作用

Sigmoid函数又称logistic函数，在逻辑回归中经常出现。
公式为：
在这里插入图片描述
Sigmoid函数常被用作神经网络的阈值函数，将变量映射到0,1之间，该函数单调递增且以（0，0.5）对称，在两端变化速度较慢。

它是神经网络中的激活函数，其作用就是引入非线性。
优点：
（1）sigmoid函数单调连续，输出范围有限，所以数据在传递的过程中不容易发散
（2）由于输出范围为(0, 1)，所以可以在二分类的模型做为输出层，输出表示概率。
（3）求导容易,其导数可由自身表示：f’(x)=f(x)(1-f(x))
缺点：
（1）易造成梯度消失的问题。sigmoid函数和其导数Deriv.Sigmoid的图形如下，导数的值始终小于1且一直在0周围变化，在深层的神经网络中极易造成梯度消失的问题。
在这里插入图片描述
（2）不是以0为对称轴（这点在tahn函数有所改善）

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家小花儿/article/detail/333543