赞
踩
之前连载的负荷预测,都是使用传统机器学习的方法,这一期我们将使用工业领域中大放异彩的循环神经网络:长短期记忆网络(LSTM)。
LSTM是一种时间递归神经网络,适用于处理和预测时间序列,基于LSTM的系统可以进行机器翻译,语音识别,文本识别,诗歌合成,自动驾驶等任务。电量的负荷值也是一个时间序列,使用LSTM的预测效果如何?今天小编带大家来看一下。
LSTM模型介绍
相对RNN,LSTM的结构更复杂。如图一所示:LSTM由三个门组成:遗忘门,输入门和输出门。遗忘门决定有多少信息被忘记,输入门决定保留哪些信息,输出门输出结果。LSTM就是在RNN的基础上,增加了对过去状态的过滤,从而可以选择哪些状态对当前更有影响,而不是简单的选择最近的状态。
在训练的过程中,RNN的训练特别困难,因为RNN梯度被表示为连成积的形式,导致梯度消失。而LSTM则很好的解决了这个问题:如图二公式展示的那样,最终的细胞状态是由遗忘门和输入门的计算结果求和得到的,这样的梯度表示为累加的形式,避免了梯度消失。
除了上图展示的LSTM以外,还出现了一些LSTM的变体。
如图三所示:单向LSTM和反向的LSTM结合成双向BiLSTM(双向LSTM)。单向LSTM关注的是过去对未来的影响,而反向LSTM关注的是未来对过去的影响,两个方向的网络结合到一起就能关联历史与未来。
举
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。