当前位置:   article > 正文

GRU理解_gru cho

gru cho

概述

GRU(Gated Recurrent Unit)是Cho在2014年提出,为LSTM的一个变种,GRU保持了LSTM的效果、结构更加简单易于训练,同时也可以解决长短时记忆和梯度问题。

在LSTM中引入了三个门函数:输入门、遗忘门和输出门来控制输入值、记忆值和输出值。而在GRU模型将细胞状态和隐藏状态进行混合,其中只有两个门:分别是更新门和重置门。具体结构如下图所示:

在这里插入图片描述
在这里插入图片描述

前向传播

在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/750261
推荐阅读
相关标签
  

闽ICP备14008679号