赞
踩
一. 摘要
在上次分享中,我们了解到了基础的循环神经网络(RNN),对于基础的循环神经网络模型,它可以比较好的通过t时刻关联到t-1时刻和t+1时刻,甚至更多。但它对任意时刻的输入都是赋予相同权重计算。这样区分不出重点因素。并且循环神经网络的梯度很容易衰减和爆炸,虽然可以采用裁剪梯度的方法缓解,但无法解决梯度衰减的问题。由于这个原因,循环神经网络在实际中就会较难捕捉时间序列中的时间步距离较大的依赖关系。本次内容便是基础循环神经网络的一个升级版,门控循环神经网络(gated recurrent neural network)。
二. 门控制循环单元
门控循环神经网络(gated recurrent neural network)的提出,是为了更好地捕捉时间序列中时间步距离较大的依赖关系。它通过可以学习的门来控制信息的流动。其中,门控循环单元(gated recurrent unit,GRU)是一种常用的门控循环神经网络。
下面将介绍门控循环单元的设计。它引入了重置门(reset gate)和更新门(update gate)的概念,从而修改了循环神经网络中隐藏状态的计算方式。
门控循环单元中的重置门和更新门的输入均为当前时间步输入XtXt与上一时间步隐藏状态Ht−1,输出由激活函数为sigmoid函数的全连接层计算得到。
图1:门控制循环单元的重置门和更新门
具体来说
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。