浅谈CNN和LSTM（例子）_cnn lstm

作者：凡人多烦事01 | 2024-03-14 22:35:55

踩

cnn lstm

长短期记忆神经网络（LSTM）是一种特殊的循环神经网络(RNN)。
循环神经网络(RNN)：是一类以序列数据为输入，在序列的演进方向进行递归且所有节点（循环单元）按链式连接的递归神经网络。
RNN在有序数据上进行学习，为记住数据，会像人一样产生对先前发生事件的记忆

RNN学习过程：
目标信息源经过长时间抵达最后时间点，会产生误差

在这里插入图片描述
反向传递时会将误差在每一步乘以自己的参数w。
w<1时，误差传递到初始时间时，会是一个接近0的数，对于初始时刻，误差相当于没有–梯度消失。

W>1时，误差传递到初始时间时，会是一个非常大数–梯度爆炸。
在这里插入图片描述
此上为RNN不能长期记忆的办法。
为此LSTM出现。
LSTM多出三个控制器：输入、输出、忘记。

LSTM多了一条全局控制记忆（主线）
原本RNN控制（分线）

输入：
如果数

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/凡人多烦事01/article/detail/237570