当前位置:   article > 正文

卷积神经网络(CNN)天气识别_基于卷积神经网络的天气预测算法

基于卷积神经网络的天气预测算法

活动地址:CSDN21天学习挑战赛

前言


1.卷积有什么用?

卷积作用是为了进行特征提取
因为输入的信息中可能只有一小部分是对我们解决问题有帮助的,这些信息比较关键,这时候只提取这部分信息就可以了。对于计算机来说,进行特征提取后,需要处理的信息就急剧减少,可以极大的加快运行速度,当然这只是我认为其中比较重要的一个原因。

2.卷积的计算

4x4的输入矩阵 I 和 3 × 3 的卷积核 K:

  • 在步长(stride)为 1 时,输出的大小为 ( 4 − 3 + 1 ) × ( 4 − 3 + 1 )

计算公式:

  • 输入图片矩阵 I大小: w x w
  • 卷积核 K : k x k
  • 步长S :s 
  • 填充大小(padding):p

 输出图片大小为:o x o 

  • 步长为2,卷积核为3*3,p=0的卷积情况如下:

当卷积函数中padding='same'时,会动态调整 p  值,确保 o=w ,即保证输入与输出一致。例如:输入是 28*28*1 输出也为 28*28*1 。

  • 步长为1,卷积核为3*3padding='same'的卷积情况如下: 

在这里插入图片描述


一、读取数据

使用CNN实现多云、下雨、晴、日出四种天气状态的识别。较上篇文章,本文为了增加模型的泛化能力,新增了Dropout层并且将最大池化层调整成了平均池化层。

1.导入数据

  1. import matplotlib.pyplot as plt
  2. import os,PIL
  3. # 设置随机种子尽可能使结果可以重现
  4. import numpy as np
  5. np.random.seed(1)
  6. # 设置随机种子尽可能使结果可以重现
  7. import tensorflow as tf
  8. tf.random.set_seed(1)
  9. from tensorflow import keras
  10. from tensorflow.keras import layers,models
  11. import pathlib
  12. data_dir = "D:/jupyter notebook/CSDN21天学习计划/weather_photos/"
  13. data_dir = pathlib.Path(data_dir)

2.查看数据

  可以看到图片总共为1125张。

  1. image_count = len(list(data_dir.glob('*/*.jpg')))
  2. print("图片总数为:",image_count)
  3. #图片总数为: 1125
  4. roses = list(data_dir.glob('sunrise/*.jpg'))
  5. PIL.Image.open(str(roses[0]))

 查看一下第一张照片

二、数据预处理

tf.keras.preprocessing.image_dataset_from_directory() 简介

 参数解析:

  • directory: 数据所在目录。如果标签是inferred(默认),则它应该包含子目录,每个目录包含一个类的图像。否则,将忽略目录结构。
  • subsettrainingvalidation之一。仅在设置validation_split时使用。
  • seed: 用于shuffle和转换的可选随机种子。
  • image_size: 从磁盘读取数据后将其重新调整大小。默认:(256,256)。由于管道处理的图像批次必须具有相同的大小,因此该参数必须提供。
  • batch_size: 数据批次的大小。默认值:32

作用:

  • 将文件夹中的数据加载到tf.data.Dataset中,且加载的同时会打乱数据。

1. 加载数据

使用`image_dataset_from_directory`方法将磁盘中的数据加载到`tf.data.Dataset`中

  1. batch_size = 32
  2. img_height = 180
  3. img_width = 180
  1. train_ds = tf.keras.preprocessing.image_dataset_from_directory(
  2. data_dir,
  3. validation_split=0.2,
  4. subset="training",
  5. seed=123,
  6. image_size=(img_height, img_width),
  7. batch_size=batch_size)
Found 1125 files belonging to 4 classes.Using 900 files for training.

  1. val_ds = tf.keras.preprocessing.image_dataset_from_directory(
  2. data_dir,
  3. validation_split=0.2,
  4. subset="validation",
  5. seed=123,
  6. image_size=(img_height, img_width),
  7. batch_size=batch_size)

 Found 1125 files belonging to 4 classes. Using 225 files for validation.

我们可以通过class_names输出数据集的标签。标签将按字母顺序对应于目录名称。

  1. class_names = train_ds.class_names
  2. print(class_names)

['cloudy', 'rain', 'shine', 'sunrise']

2. 可视化数据

  1. plt.figure(figsize=(20, 10))
  2. for images, labels in train_ds.take(1):
  3. for i in range(20):
  4. ax = plt.subplot(5, 10, i + 1)
  5. plt.imshow(images[i].numpy().astype("uint8"))
  6. plt.title(class_names[labels[i]])
  7. plt.axis("off")

 3. 再次检查数据

  1. for image_batch, labels_batch in train_ds:
  2. print(image_batch.shape)
  3. print(labels_batch.shape)
  4. break

(32, 180, 180, 3)

(32,)

  • Image_batch是形状的张量(32,180,180,3)。这是一批形状180x180x3的32张图片(最后一维指的是彩色通道RGB)。
  • Label_batch是形状(32,)的张量,这些标签对应32张图片

4. 配置数据集

  1. AUTOTUNE = tf.data.AUTOTUNE
  2. train_ds = train_ds.cache().shuffle(1000).prefetch(buffer_size=AUTOTUNE)
  3. val_ds = val_ds.cache().prefetch(buffer_size=AUTOTUNE)

三、构建CNN神经网络模型.

tf.keras.layers.Dropout() 介绍

参数解析:

  • rate:0~1之间的小数。让神经元以一定的概率rate停止工作,提高模型的泛化能力。
  • noise_shape:1D张量类型,int32表示将与输入相乘的二进制丢失掩码的形状;例如,如果您的输入具有形状(batch_size, timesteps, features),并且你希望所有时间步长的丢失掩码相同,则可以使用noise_shape=[batch_size, 1, features],就是哪一个是1,那么就在哪一维度按照相同的方式dropout,如果没有1就是普通的。
  • seed:随机种子

作用:

  • 防止过拟合,提高模型的泛化能力。


卷积神经网络(CNN)的输入是张量 (Tensor) 形式的 (image_height, image_width, color_channels),包含了图像高度、宽度及颜色信息。不需要输入batch size。color_channels 为 (R,G,B) 分别对应 RGB 的三个颜色通道(color channel)。在此示例中,我们的 CNN 输入,fashion_mnist 数据集中的图片,形状是 (28, 28, 1)即灰度图像。我们需要在声明第一层时将形状赋值给参数input_shape

  1. num_classes = 5
  2. model = models.Sequential([
  3. layers.experimental.preprocessing.Rescaling(1./255, input_shape=(img_height, img_width, 3)),
  4. layers.Conv2D(16, (3, 3), activation='relu', input_shape=(img_height, img_width, 3)), # 卷积层1,卷积核3*3
  5. layers.AveragePooling2D((2, 2)), # 池化层1,2*2采样
  6. layers.Conv2D(32, (3, 3), activation='relu'), # 卷积层2,卷积核3*3
  7. layers.AveragePooling2D((2, 2)), # 池化层2,2*2采样
  8. layers.Conv2D(64, (3, 3), activation='relu'), # 卷积层3,卷积核3*3
  9. layers.Dropout(0.3),
  10. layers.Flatten(), # Flatten层,连接卷积层与全连接层
  11. layers.Dense(128, activation='relu'), # 全连接层,特征进一步提取
  12. layers.Dense(num_classes) # 输出层,输出预期结果
  13. ])
  14. model.summary() # 打印网络结构

四、确定学习的目标

在准备对模型进行训练之前,还需要再对其进行一些设置。以下内容是在模型的编译步骤中添加的:

  • 损失函数(loss):用于衡量模型在训练期间的准确率。
  • 优化器(optimizer):决定模型如何根据其看到的数据和自身的损失函数进行更新。
  • 指标(metrics):用于监控训练和测试步骤。以下示例使用了准确率,即被正确分类的图像的比率。
  1. # 设置优化器
  2. opt = tf.keras.optimizers.Adam(learning_rate=0.001)
  3. model.compile(optimizer=opt,
  4. loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
  5. metrics=['accuracy'])

五:模型训练

  1. epochs = 10
  2. history = model.fit(
  3. train_ds,
  4. validation_data=val_ds,
  5. epochs=epochs
  6. )

六、模型评估

1.Accuracy与Loss图

  1. acc = history.history['accuracy']
  2. val_acc = history.history['val_accuracy']
  3. loss = history.history['loss']
  4. val_loss = history.history['val_loss']
  5. epochs_range = range(epochs)
  6. plt.figure(figsize=(12, 4))
  7. plt.subplot(1, 2, 1)
  8. plt.plot(epochs_range, acc, label='Training Accuracy')
  9. plt.plot(epochs_range, val_acc, label='Validation Accuracy')
  10. plt.legend(loc='lower right')
  11. plt.title('Training and Validation Accuracy')
  12. plt.subplot(1, 2, 2)
  13. plt.plot(epochs_range, loss, label='Training Loss')
  14. plt.plot(epochs_range, val_loss, label='Validation Loss')
  15. plt.legend(loc='upper right')
  16. plt.title('Training and Validation Loss')
  17. plt.show()

2.混淆矩阵

  • Seaborn是一个画图库,它基于Matplotlib核心库进行了更高阶的API封装,可以让你轻松地画出更漂亮的图形。Seaborn的漂亮主要体现在配色更加舒服、以及图形元素的样式更加细腻。
  1. from sklearn.metrics import confusion_matrix
  2. import seaborn as sns
  3. import pandas as pd
  4. # 定义一个绘制混淆矩阵图的函数
  5. def plot_cm(labels, predictions):
  6. # 生成混淆矩阵
  7. conf_numpy = confusion_matrix(labels, predictions)
  8. # 将矩阵转化为 DataFrame
  9. conf_df = pd.DataFrame(conf_numpy, index=class_names ,columns=class_names)
  10. plt.figure(figsize=(8,7))
  11. sns.heatmap(conf_df, annot=True, fmt="d", cmap="BuPu")
  12. # 用黑体显示中文
  13. plt.rcParams['font.sans-serif'] = ['SimHei']
  14. plt.title('混淆矩阵',fontsize=15)
  15. plt.ylabel('真实值',fontsize=14)
  16. plt.xlabel('预测值',fontsize=14)
  17. val_pre = []
  18. val_label = []
  19. for images, labels in val_ds:#这里可以取部分验证数据(.take(1))生成混淆矩阵
  20. for image, label in zip(images, labels):
  21. # 需要给图片增加一个维度
  22. img_array = tf.expand_dims(image, 0)
  23. # 使用模型预测图片中的人物
  24. prediction = model.predict(img_array)
  25. val_pre.append(class_names[np.argmax(prediction)])
  26. val_label.append(class_names[label])
  27. plot_cm(val_label, val_pre)

七、保存和加载模型

  1. # 保存模型
  2. model.save('model/17_model.h5')
  3. # 加载模型
  4. new_model = tf.keras.models.load_model('model/17_model.h5')

八、预测

  1. # 采用加载的模型(new_model)来看预测结果
  2. plt.figure(figsize=(10, 5)) # 图形的宽为10高为5
  3. plt.suptitle("预测结果展示")
  4. for images, labels in val_ds.take(1):
  5. for i in range(15):
  6. ax = plt.subplot(3, 5, i + 1)
  7. # 显示图片
  8. plt.imshow(images[i].numpy().astype("uint8"))
  9. # 用黑体显示中文
  10. plt.rcParams['font.sans-serif'] = ['SimHei']
  11. # 需要给图片增加一个维度
  12. img_array = tf.expand_dims(images[i], 0)
  13. # 使用模型预测图片中的人物
  14. predictions = new_model.predict(img_array)
  15. plt.title(class_names[np.argmax(predictions)])
  16. plt.axis("off")

 可以看到大部分预测都是准确的。

参考如下:

>- 本文为[

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小桥流水78/article/detail/801766
推荐阅读
相关标签