赞
踩
这是我的第269篇原创文章。
麻雀算法(Sparrow Search Algorithm,SSA)是一种基于麻雀群体行为的算法,它可以用来优化深度学习模型中的参数。在优化LSTM模型时,可以通过麻雀算法来调整LSTM的参数,以提高模型的性能和收敛速度。通过麻雀算法优化LSTM模型参数,可以帮助改善模型的性能和泛化能力,加快模型收敛速度,提高预测准确率。同时,麻雀算法还可以帮助发现更优的参数组合,有效地搜索参数空间,提高模型的泛化性能。下面是一个简单的步骤示例,演示如何使用SSA来优化LSTM的超参数。
- # 读取数据集
- data = pd.read_csv('data.csv')
- # 将日期列转换为日期时间类型
- data['Month'] = pd.to_datetime(data['Month'])
- # 将日期列设置为索引
- data.set_index('Month', inplace=True)
data:
- # 拆分数据集为训练集和测试集
- train_size = int(len(data) * 0.8)
- train_data = data[:train_size]
- test_data = data[train_size:]
-
- # 绘制训练集和测试集的折线图
- plt.figure(figsize=(10, 6))
- plt.plot(train_data, label='Training Data')
- plt.plot(test_data, label='Testing Data')
- plt.xlabel('Year')
- plt.ylabel('Passenger Count')
- plt.title('International Airline Passengers - Training and Testing Data')
- plt.legend()
- plt.show()
共144条数据,8:2划分:训练集115,测试集29。
训练集和测试集:
- # 将数据归一化到 0~1 范围
- scaler = MinMaxScaler()
- train_data_scaler = scaler.fit_transform(train_data.values.reshape(-1, 1))
- test_data_scaler = scaler.transform(test_data.values.reshape(-1, 1))
- # 定义滑动窗口函数
- def create_sliding_windows(data, window_size):
- X, Y = [], []
- for i in range(len(data) - window_size):
- X.append(data[i:i + window_size, 0:data.shape[1]])
- Y.append(data[i + window_size, 0])
- return np.array(X), np.array(Y)
-
- # 定义滑动窗口大小
- window_size = 1
- # 创建滑动窗口数据集
- X_train, Y_train = create_sliding_windows(train_data_scaler, window_size)
- X_test, Y_test = create_sliding_windows(test_data_scaler, window_size)
- # 将数据集转换为 LSTM 模型所需的形状(样本数,时间步长,特征数)
- X_train = np.reshape(X_train, (X_train.shape[0], window_size, 1))
- X_test = np.reshape(X_test, (X_test.shape[0], window_size, 1))

- class SSA():
- pass
-
- def build_model(X_train, neurons1, neurons2, dropout):
- nb_features = X_train.shape[2]
- input1 = X_train.shape[1]
- model1 = Sequential()
- model1.add(LSTM(
- input_shape=(input1, nb_features),
- units=neurons1,
- return_sequences=True))
- model1.add(Dropout(dropout))
-
- model1.add(LSTM(
- units=neurons2,
- return_sequences=False))
- model1.add(Dropout(dropout))
-
- model1.add(Dense(units=1))
- model1.add(Activation("linear"))
- model1.compile(loss='mse', optimizer='Adam', metrics=['mae'])
- return model1
-
- UP = [51, 6, 0.055, 9]
- DOWN = [50, 5, 0.05, 8]
-
- # 开始优化
- ssa = SSA(training, n_dim=4, pop_size=22, max_iter=1, lb=DOWN, ub=UP)
- ssa.run()
- print('best_params is ', ssa.gbest_x)
- print('best_precision is', 1 - ssa.gbest_y)
-
- # 训练模型 使用ssa找到的最好的神经元个数
- neurons1 = int(ssa.gbest_x[0])
- neurons2 = int(ssa.gbest_x[1])
- dropout = ssa.gbest_x[2]
- batch_size = int(ssa.gbest_x[3])
-
- model = build_model(X_train, neurons1, neurons2, dropout)
- history1 = model.fit(X_train, y_train, epochs=150, batch_size=batch_size, validation_split=0.2, verbose=1,
- callbacks=[EarlyStopping(monitor='val_loss', patience=9, restore_best_weights=True)])
-
- # 使用 LSTM 模型进行预测
- train_predictions = model.predict(X_train)
- test_predictions = model.predict(X_test)
- # 反归一化预测结果
- train_predictions = scaler.inverse_transform(train_predictions)
- test_predictions = scaler.inverse_transform(test_predictions)

best_params:
test_predictions:
- # 绘制测试集预测结果的折线图
- plt.figure(figsize=(10, 6))
- plt.plot(test_data, label='Actual')
- plt.plot(list(test_data.index)[-len(test_predictions):], test_predictions, label='Predicted')
- plt.xlabel('Month')
- plt.ylabel('Passengers')
- plt.title('Actual vs Predicted')
- plt.legend()
- plt.show()
测试集真实值与预测值:
- # 绘制原始数据、训练集预测结果和测试集预测结果的折线图
- plt.figure(figsize=(10, 6))
- plt.plot(data, label='Actual')
- plt.plot(list(train_data.index)[look_back:train_size], train_predictions, label='Training Predictions')
- plt.plot(list(test_data.index)[-(len(test_data)-look_back):], test_predictions, label='Testing Predictions')
- plt.xlabel('Year')
- plt.ylabel('Passenger Count')
- plt.title('International Airline Passengers - Actual vs Predicted')
- plt.legend()
- plt.show()
原始数据、训练集预测结果和测试集预测结果:
作者简介:
读研期间发表6篇SCI数据挖掘相关论文,现在某研究院从事数据算法相关科研工作,结合自身科研实践经历不定期分享关于Python、机器学习、深度学习、人工智能系列基础知识与应用案例。致力于只做原创,以最简单的方式理解和学习,关注我一起交流成长。需要数据集和源码的小伙伴可以关注底部公众号添加作者微信。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。