devbox
人工智能uu
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

二十八、【人工智能】【机器学习】【PyTorch】- 手写体识别

作者：人工智能uu | 2024-08-06 07:17:09

赞

踩

二十八、【人工智能】【机器学习】【PyTorch】- 手写体识别

目录

引言

PyTorch简介

深度学习与手写体识别

实现手写体识别的PyTorch模型

数据预处理

构建模型

训练模型

评估模型

最新进展

代码实现

步骤1: 导入必要的库

步骤2: 准备数据集

步骤3: 定义CNN模型

步骤4: 定义损失函数和优化器

步骤5: 训练模型

步骤6: 测试模型

完整代码

结论

引言

在过去的几十年里，手写体识别一直是计算机视觉和模式识别领域的重要课题。随着深度学习技术的兴起，特别是卷积神经网络（Convolutional Neural Networks, CNNs）的发展，我们已经能够以前所未有的精度和效率识别手写字符。本文将深入探讨如何使用PyTorch这一强大的深度学习框架，实现手写体识别，并介绍一些最新的技术进步。

PyTorch简介

PyTorch是由Facebook的人工智能研究实验室开发的一个开源机器学习库。它提供了动态计算图，使得构建和调整复杂的深度学习模型变得直观而高效。PyTorch的灵活性和易用性使其成为学术界和工业界广泛使用的工具之一。

深度学习与手写体识别

手写体识别的传统方法依赖于特征工程和基于规则的系统，但这些方法往往无法处理手写体的多样性和复杂性。相比之下，深度学习模型，尤其是CNNs，能够自动学习和提取图像中的特征，无需显式的人工特征设计。这使得它们在手写体识别任务上取得了显著的成功。

实现手写体识别的PyTorch模型

我们将使用经典的MNIST数据集作为案例研究，这是一个包含60,000个训练样本和10,000个测试样本的手写数字数据集。下面是如何使用PyTorch构建一个基本的CNN模型的步骤：

数据预处理

  • 加载MNIST数据集：使用torchvision.datasets.MNIST加载并分割训练和测试数据。
  • 数据转换：使用transforms对图像进行归一化和张量化处理。

构建模型

  • 定义CNN架构：包括卷积层、池化层和全连接层。
  • 初始化模型：创建模型实例并选择合适的设备（CPU或GPU）。

训练模型

  • 设置训练参数：如学习率、优化器、损失函数。
  • 训练循环：遍历数据集，前向传播，计算损失，反向传播，更新权重。

评估模型

  • 测试模型：在测试集上评估模型的性能。
  • 分析结果：查看混淆矩阵，评估分类准确率。

最新进展

近年来，手写体识别领域的一些最新进展包括：

  • 注意力机制：引入注意力机制可以增强模型在局部区域的聚焦能力，提高识别准确性。
  • 数据增强：通过旋转、缩放和剪切等操作增加训练集多样性，有助于提高模型的泛化能力。
  • 迁移学习：利用在大型数据集上预训练的模型，通过微调适应手写体识别任务，可以节省时间和计算资源。

代码实现

pytorch实现手写字体的识别。本算法最终识别率在97.76左右。

步骤1: 导入必要的库

  1. import pandas as pd
  2. import numpy as np
  3. import torch
  4. from torch.utils.data import Dataset, DataLoader
  5. import torch.nn as nn
  6. import torch.optim as optim

步骤2: 准备数据集

  1. # 读取文件
  2. filename = r"F:\BaiduNetdiskDownload\mnist_train.csv"
  3. # 使用 loadtxt 读取文件，忽略第一列（标签），并将剩余列转换为整数
  4. train_features = (np.loadtxt(filename, delimiter=',', skiprows=0, usecols=range(1, 785), dtype=int) / 255.0)
  5. train_labels = np.loadtxt(filename, delimiter=',', usecols=(0,), dtype=int)
  6.  
  7. # 加载训练和测试数据
  8. # train_features, train_labels = load_data_from_excel(r'F:\BaiduNetdiskDownload\mnist_train.csv')
  9. # test_features, test_labels = load_data_from_excel(r'F:\BaiduNetdiskDownload\mnist_test.csv')
  10. # 读取文件
  11. fileTestname = r"F:\BaiduNetdiskDownload\mnist_test.csv"
  12. # 使用 loadtxt 读取文件，忽略第一列（标签），并将剩余列转换为整数
  13. test_features = (np.loadtxt(fileTestname, delimiter=',', skiprows=0, usecols=range(1, 785), dtype=int) / 255.0)
  14. test_labels = np.loadtxt(fileTestname, delimiter=',', usecols=(0,), dtype=int)
  15. # 转换为PyTorch的Tensor
  16. train_features = torch.from_numpy(train_features).float()
  17. train_labels = torch.from_numpy(train_labels).long()
  18. test_features = torch.from_numpy(test_features).float()
  19. test_labels = torch.from_numpy(test_labels).long()
  20.  
  21.  
  22. # 自定义Dataset类
  23. class ExcelDataset(Dataset):
  24.     def __init__(self, features, labels):
  25.         self.features = features
  26.         self.labels = labels
  27.  
  28.     def __len__(self):
  29.         return len(self.features)
  30.  
  31.     def __getitem__(self, idx):
  32.         return self.features[idx], self.labels[idx]
  33.  
  34.  
  35. # 创建数据集实例
  36. train_dataset = ExcelDataset(train_features, train_labels)
  37. test_dataset = ExcelDataset(test_features, test_labels)
  38.  
  39. # 创建DataLoader
  40. train_loader = DataLoader(dataset=train_dataset, batch_size=BATCH_SIZE, shuffle=True)
  41. test_loader = DataLoader(dataset=test_dataset, batch_size=BATCH_SIZE, shuffle=False)
  42.

步骤3: 定义CNN模型

  1. # 定义模型
  2. class MnistModel(nn.Module):
  3.     def __init__(self):
  4.         super(MnistModel, self).__init__()
  5.         self.fc = nn.Sequential(
  6.             nn.Linear(784, HIDDEN_SIZE_1),
  7.             nn.ReLU(),
  8.             nn.Linear(HIDDEN_SIZE_1, HIDDEN_SIZE_2),
  9.             nn.ReLU(),
  10.             nn.Linear(HIDDEN_SIZE_2, 32),
  11.             nn.ReLU(),
  12.             nn.Linear(32, 10),
  13.  
  14.         )
  15.  
  16.     def forward(self, x):
  17.         x = x.view(x.size(0), -1)
  18.         return self.fc(x)
  19.

步骤4: 定义损失函数和优化器

  1. model = MnistModel()
  2.  
  3. # 定义损失函数和优化器
  4. criterion = nn.CrossEntropyLoss()
  5. optimizer = optim.Adam(model.parameters(), lr=LEARNING_RATE)

步骤5: 训练模型

  1. # 训练模型
  2. for epoch in range(NUM_EPOCHS):
  3.     for i, (images, labels) in enumerate(train_loader):
  4.         # 清零优化器中累积的梯度
  5.         optimizer.zero_grad()
  6.         # 构建训练模型
  7.         outputs = model(images)
  8.         # 计算损失函数
  9.         loss = criterion(outputs, labels)
  10.         # 启动反向传播过程
  11.         loss.backward()
  12.         # 使用优化算法来更新模型的参数
  13.         optimizer.step()
  14.  
  15.         if (i + 1) % 100 == 0:
  16.             print(f'Epoch [{epoch + 1}/{NUM_EPOCHS}], Step [{i + 1}/{len(train_loader)}], Loss: {loss.item():.4f}')
  17.  
  18. # 保存模型
  19. torch.save(model.state_dict(), MODEL_PATH)

步骤6: 测试模型

  1. # 加载模型进行测试
  2. model.load_state_dict(torch.load(MODEL_PATH))
  3. model.eval()
  4. #
  5. # # 测试模型
  6. with torch.no_grad():
  7.      correct = 0
  8.      total = 0
  9.      for images, labels in test_loader:
  10.          outputs = model(images)
  11.          _, predicted = torch.max(outputs.data, 1)
  12.          total += labels.size(0)
  13.          correct += (predicted == labels).sum().item()
  14.      print('Test Accuracy: {} %'.format(100 * correct / total))

完整代码

  1. import pandas as pd
  2. import numpy as np
  3. import torch
  4. from torch.utils.data import Dataset, DataLoader
  5. import torch.nn as nn
  6. import torch.optim as optim
  7.  
  8. # 定义超参数
  9. BATCH_SIZE = 64
  10. NUM_EPOCHS = 30
  11. LEARNING_RATE = 0.0009
  12. HIDDEN_SIZE_1 = 128
  13. HIDDEN_SIZE_2 = 64
  14. MODEL_PATH = r'F:\ai\moudle.ckpt'
  15.  
  16. # 读取文件
  17. filename = r"F:\BaiduNetdiskDownload\mnist_train.csv"
  18. # 使用 loadtxt 读取文件，忽略第一列（标签），并将剩余列转换为整数
  19. train_features = (np.loadtxt(filename, delimiter=',', skiprows=0, usecols=range(1, 785), dtype=int) / 255.0)
  20. train_labels = np.loadtxt(filename, delimiter=',', usecols=(0,), dtype=int)
  21.  
  22. # 加载训练和测试数据
  23. # train_features, train_labels = load_data_from_excel(r'F:\BaiduNetdiskDownload\mnist_train.csv')
  24. # test_features, test_labels = load_data_from_excel(r'F:\BaiduNetdiskDownload\mnist_test.csv')
  25. # 读取文件
  26. fileTestname = r"F:\BaiduNetdiskDownload\mnist_test.csv"
  27. # 使用 loadtxt 读取文件，忽略第一列（标签），并将剩余列转换为整数
  28. test_features = (np.loadtxt(fileTestname, delimiter=',', skiprows=0, usecols=range(1, 785), dtype=int) / 255.0)
  29. test_labels = np.loadtxt(fileTestname, delimiter=',', usecols=(0,), dtype=int)
  30. # 转换为PyTorch的Tensor
  31. train_features = torch.from_numpy(train_features).float()
  32. train_labels = torch.from_numpy(train_labels).long()
  33. test_features = torch.from_numpy(test_features).float()
  34. test_labels = torch.from_numpy(test_labels).long()
  35.  
  36.  
  37. # 自定义Dataset类
  38. class ExcelDataset(Dataset):
  39.     def __init__(self, features, labels):
  40.         self.features = features
  41.         self.labels = labels
  42.  
  43.     def __len__(self):
  44.         return len(self.features)
  45.  
  46.     def __getitem__(self, idx):
  47.         return self.features[idx], self.labels[idx]
  48.  
  49.  
  50. # 创建数据集实例
  51. train_dataset = ExcelDataset(train_features, train_labels)
  52. test_dataset = ExcelDataset(test_features, test_labels)
  53.  
  54. # 创建DataLoader
  55. train_loader = DataLoader(dataset=train_dataset, batch_size=BATCH_SIZE, shuffle=True)
  56. test_loader = DataLoader(dataset=test_dataset, batch_size=BATCH_SIZE, shuffle=False)
  57.  
  58.  
  59. # 定义模型
  60. class MnistModel(nn.Module):
  61.     def __init__(self):
  62.         super(MnistModel, self).__init__()
  63.         self.fc = nn.Sequential(
  64.             nn.Linear(784, HIDDEN_SIZE_1),
  65.             nn.ReLU(),
  66.             nn.Linear(HIDDEN_SIZE_1, HIDDEN_SIZE_2),
  67.             nn.ReLU(),
  68.             nn.Linear(HIDDEN_SIZE_2, 32),
  69.             nn.ReLU(),
  70.             nn.Linear(32, 10),
  71.  
  72.         )
  73.  
  74.     def forward(self, x):
  75.         x = x.view(x.size(0), -1)
  76.         return self.fc(x)
  77.  
  78.  
  79. model = MnistModel()
  80.  
  81. # 定义损失函数和优化器
  82. criterion = nn.CrossEntropyLoss()
  83. optimizer = optim.Adam(model.parameters(), lr=LEARNING_RATE)
  84.  
  85. # 训练模型
  86. for epoch in range(NUM_EPOCHS):
  87.     for i, (images, labels) in enumerate(train_loader):
  88.         # 清零优化器中累积的梯度
  89.         optimizer.zero_grad()
  90.         # 构建训练模型
  91.         outputs = model(images)
  92.         # 计算损失函数
  93.         loss = criterion(outputs, labels)
  94.         # 启动反向传播过程
  95.         loss.backward()
  96.         # 使用优化算法来更新模型的参数
  97.         optimizer.step()
  98.  
  99.         if (i + 1) % 100 == 0:
  100.             print(f'Epoch [{epoch + 1}/{NUM_EPOCHS}], Step [{i + 1}/{len(train_loader)}], Loss: {loss.item():.4f}')
  101.  
  102. # 保存模型
  103. torch.save(model.state_dict(), MODEL_PATH)
  104.  
  105. # 加载模型进行测试
  106. # model.load_state_dict(torch.load(MODEL_PATH))
  107. # model.eval()
  108. #
  109. # # 测试模型
  110. # with torch.no_grad():
  111. #     correct = 0
  112. #     total = 0
  113. #     for images, labels in test_loader:
  114. #         outputs = model(images)
  115. #         _, predicted = torch.max(outputs.data, 1)
  116. #         total += labels.size(0)
  117. #         correct += (predicted == labels).sum().item()
  118. #     print('Test Accuracy: {} %'.format(100 * correct / total))

结论

手写体识别是深度学习技术应用的一个生动例子，展示了AI在理解和解析人类创造的内容方面的能力。随着算法和硬件的进步，我们可以期待未来在手写体识别和其他相关领域看到更多令人兴奋的成果。

需要训练集的同学可以访问以下链接获取：

链接：https://pan.baidu.com/s/1afPQFahKy9Ei8IjNk8o8pw?pwd=so5x 
提取码：so5x

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/人工智能uu/article/detail/936370
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号