基于HHO/GTO/EO/SCA/BOA/WOA/HBA/PSOBOA/HPSOBOA等9种优化算法优化LSTM的时间序列预测_lstm用什么去优化

0 引言

        基于LSTM进行时间序列预测方法简单有效。LSTM的出现为时间序列预测提供了一个新的研究方向。然而，与大部分网络模型一样，LSTM效果受其超参数设置的影响。为此，本文采用HHO/GTO/EO/SCA/BOA/WOA/HBA/PSOBOA/HPSOBOA等9种优化算法分别优化LSTM网络超参数，建立优化的LSTM模型 ,  实例验证表明 , 优化后的LSTM 模型相较于未优化模型的预测效果明显提高。

1 原理

1.1 LSTM原理

        该处不做过多 介绍！

1.2 9种优化算法

       ①哈里斯霍克优化HHO算法

       ②人工大猩猩群体优化器GTO算法

       ③平衡优化器EO算法

       ④正余弦SCA算法

       ⑤蝴蝶优化BOA算法

       ⑥鲸鱼优化WOA算法

       ⑦混合蝙蝠HBA算法

       ⑧粒子群混合蝴蝶优化PSOBOA算法

       ⑨混沌粒子群混合蝴蝶优化HPSOBOA算法

        各算法具体原理请参考相关文献说明，此处不做介绍！

 1.3 优化LSTM原理

        以最小化LSTM网络的误差为适应度函数，优化算法的作用就是尽量去找一组最优超参数使得网络误差最小化。本文中LSTM的主要几个超参数分别是：学习率lr，batchsize，训练次数K，两个隐含层的节点数L1和L2。
 

2 代码实现

        基于MATLAB2020b，进行模型搭建与优化。数据结构为时间序列，我们采用前n个时刻的值为输入，n+1时刻 的值为输出这样来进行滚动建模。

2.1 LSTM结果

2.2 优化后LSTM结果

        由于是最小化网络误差，因此适应度曲线是一条下降的曲线。图1-9分别为各优化算法的寻优结果。

图1  哈里斯霍克优化HHO算法

       图2  人工大猩猩群体优化器GTO算法

       图3  平衡优化器EO算法

       图4   正余弦SCA算法

图5   蝴蝶优化BOA算法

图6   鲸鱼优化WOA算法

  

图7    混合蝙蝠HBA算法

       图8   粒子群混合蝴蝶优化PSOBOA算法

       图9   混沌粒子群混合蝴蝶优化HPSOBOA算法

3 结论

        从以上分析可以看出，优化后的LSTM具有更好的精度。