当前位置:   article > 正文

LSTM替换RNN的原因_lstm替代了rnn

lstm替代了rnn

RNN用gradient decent train的效果很差,是因为RNN有time sequence,w会在不同时间点被反复使用,会产生gradient vanish问题。

LSTM可以handle gradient decent的问题,需要在learning rate很小的情况下train。

为什么要用LSTM代替RNN?

RNN在每个时间点,memory中的data都会被覆盖掉,而LSTM有一个forget gate,会把memory中的值乘上一个值再加上input。

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop】
推荐阅读
相关标签
  

闽ICP备14008679号