当前位置:   article > 正文

lstm网络一般训练多少轮_负荷预测怎么做,循环神经网络来支招

lstm训练多少轮好

之前连载的负荷预测,都是使用传统机器学习的方法,这一期我们将使用工业领域中大放异彩的循环神经网络:长短期记忆网络(LSTM)。

LSTM是一种时间递归神经网络,适用于处理和预测时间序列,基于LSTM的系统可以进行机器翻译,语音识别,文本识别,诗歌合成,自动驾驶等任务。电量的负荷值也是一个时间序列,使用LSTM的预测效果如何?今天小编带大家来看一下。

LSTM模型介绍

相对RNN,LSTM的结构更复杂。如图一所示:LSTM由三个门组成:遗忘门,输入门和输出门。遗忘门决定有多少信息被忘记,输入门决定保留哪些信息,输出门输出结果。LSTM就是在RNN的基础上,增加了对过去状态的过滤,从而可以选择哪些状态对当前更有影响,而不是简单的选择最近的状态。

在训练的过程中,RNN的训练特别困难,因为RNN梯度被表示为连成积的形式,导致梯度消失。而LSTM则很好的解决了这个问题:如图二公式展示的那样,最终的细胞状态是由遗忘门和输入门的计算结果求和得到的,这样的梯度表示为累加的形式,避免了梯度消失。

c36d6a1da12bffdff000a8310386ff6a.png

图一: RNN和LSTM结构图

ffbd68057dd0856182a0a60cb0927791.png

图二: 细胞状态更新

除了上图展示的LSTM以外,还出现了一些LSTM的变体。

如图三所示:单向LSTM和反向的LSTM结合成双向BiLSTM(双向LSTM)。单向LSTM关注的是过去对未来的影响,而反向LSTM关注的是未来对过去的影响,两个方向的网络结合到一起就能关联历史与未来。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/2023面试高手/article/detail/167965
推荐阅读
相关标签
  

闽ICP备14008679号