当前位置:   article > 正文

tensorflow中Leaky Relu激活函数_tensorflow leakyrelu

tensorflow leakyrelu

tensorflow中Leaky Relu激活函数

引用API:tensorflow.nn.leaky_relu(x)

 Leaky Relu激活函数

f(x)=max(ax,x)

Leaky Relu激活函数引入一个固定斜率a,具有Relu激活函数所有的优点,但并不保证效果比Relu激活函数好

优点:跟Relu激活函数想比,输入值小于0也可以进行参数更新,不会造成神经元

           死亡

缺点:输出非0均值,收敛慢

 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/菜鸟追梦旅行/article/detail/156581
推荐阅读
相关标签
  

闽ICP备14008679号