当前位置:   article > 正文

深度学习图像处理04:图像分类模型训练实战——动物分类_动物分类数据集

动物分类数据集

这篇博文不涉及理论知识,主要通过一个完整的深度学习模型训练流程,直观地了解深度学习图像分类任务。有关理论的部分,之前几篇博文已经涉及基础部分,之后也会对一些理论进行补充。

本文将结合代码,主要介绍三部分内容:

        1. 数据集划分

        2. 模型训练

        3. 模型评估

本文集成了深度学习图像处理从数据集划分到模型训练最后到模型评估的一个完整框架。旨在方便从事相关学术研究的伙伴,进行实验对比。

1. 数据集划分

1.1 数据集文件结构

 数据集结构如上图所示,共分三级目录。根目录:dataset,一级子目录:animal-5,二级子目录:5种动物的类别。每个动物类别的文件夹中,保存对应类别的图片。

1.2 数据集划分

数据集划分的步骤:

(1)读取数据集中所有图片的路径。

(2)随机选取图片,将数据集按照4:1的比例,划分为训练集和测试集。

(3)标签映射,将数据集标签映射到json文件中保存。

1.3 代码

代码文件名称:split_data.py

完整代码:

  1. import os
  2. import random
  3. import json
  4. import argparse
  5. def split_data(dataset_root, txt_save_root, ratio):
  6. assert 0 <= ratio <= 1, "ratio must be between 0 and 1"
  7. # 创建保存路径文件夹
  8. os.makedirs(txt_save_root, exist_ok=True)
  9. # 获取所有文件路径
  10. all_files = []
  11. for path, _, files in os.walk(dataset_root):
  12. for file in files:
  13. all_files.append(os.path.join(path, file))
  14. # 将文件路径保存到 dataset.txt
  15. with open(f'{txt_save_root}/dataset.txt', 'w') as f:
  16. for file_path in all_files:
  17. f.write(file_path + '\n')
  18. print(f'数据集路径保存成功到:{txt_save_root}/dataset.txt')
  19. # 随机分割为训练集和测试集
  20. random.shuffle(all_files)
  21. split_index = int(ratio * len(all_files))
  22. train_files = all_files[:split_index]
  23. test_files = all_files[split_index:]
  24. # 将训练集和测试集的路径分别保存
  25. with open(f'{txt_save_root}/train.txt', 'w') as f:
  26. for file_path in train_files:
  27. f.write(file_path + '\n')
  28. print(f'训练集路径保存成功到:{txt_save_root}/train.txt')
  29. with open(f'{txt_save_root}/test.txt', 'w') as f:
  30. for file_path in test_files:
  31. f.write(file_path + '\n')
  32. print(f'测试集路径保存成功到:{txt_save_root}/test.txt')
  33. def get_paths_and_labels(filename):
  34. paths_and_labels = []
  35. with open(filename, 'r') as file:
  36. for line in file:
  37. path = line.strip() # 移除行尾的换行符
  38. label = get_label_from_path(path)
  39. paths_and_labels.append((path, label))
  40. return paths_and_labels
  41. def get_label_from_path(image_path):
  42. parts = image_path.split('\\')
  43. label = parts[-2] if len(parts) > 1 else None
  44. return label
  45. def create_and_save_label_mapping(file_paths_and_labels, json_file):
  46. unique_labels = sorted(set(label for _, label in file_paths_and_labels))
  47. label_to_index = {label: index for index, label in enumerate(unique_labels)}
  48. with open(json_file, 'w') as file:
  49. json.dump(label_to_index, file)
  50. if __name__ == '__main__':
  51. # 创建 ArgumentParser 对象
  52. parser = argparse.ArgumentParser(description="Process some paths.")
  53. # 添加参数
  54. parser.add_argument('--dataset_root', default='dataset/animal-5',
  55. type=str, help='数据集根路径')
  56. parser.add_argument('--txt_save_root', default='file/animal-5',
  57. type=str, help='txt文件保存路径')
  58. parser.add_argument('--ratio', default=0.8, type=float, help='训练集的比例')
  59. # 解析参数
  60. args = parser.parse_args()
  61. dataset_root = args.dataset_root
  62. txt_save_root = args.txt_save_root
  63. ratio = args.ratio
  64. # 划分数据集
  65. split_data(dataset_root, txt_save_root, ratio)
  66. # 获取数据集标签
  67. file_paths_and_labels = get_paths_and_labels(f'{txt_save_root}/train.txt')
  68. print(f'成功获取数据集标签')
  69. # 记录数据集标签映射
  70. create_and_save_label_mapping(file_paths_and_labels, f'{txt_save_root}/classes.json')
  71. print(f'已保存数据集标签映射到:{txt_save_root}/classes.json')

1.4 代码使用方法

parser.add_argument('--dataset_root', default='dataset/animal-5',
                    type=str, help='数据集根路径')
parser.add_argument('--txt_save_root', default='file/animal-5',
                    type=str, help='txt文件保存路径')
parser.add_argument('--ratio', default=0.8, type=float, help='训练集的比例')

运行代码时,只需要更改上述参数中的 default 部分。--dataset_root为数据集根路径。--txt_save_root为txt文件保存路径。--ratio为训练集占数据集的比例,大于0,小于1。

上述代码,运行成功后,结果如下:

其中,dataset.txt保存了数据集所有图片的路径,train.txt保存了所有训练集图片路径,test.txt保存了所有测试集图片路径,classes.json保存了该数据集标签的映射。

上述四个文件部分内容展示如下:

2. 模型训练

2.1 模型训练步骤

(1)环境准备和参数解析

  • 导入必要的库和模块,如torch, torchvision, sklearn.model_selection等。
  • 定义一个解析命令行参数的argparse.ArgumentParser实例,用于接收从命令行传入的参数,如训练集路径、模型保存路径、批大小、学习率、是否使用预训练模型等。

(2)数据准备

  • 使用给定的文件路径和JSON文件,加载训练图像的路径和对应的标签映射。
  • 将数据集划分为训练集和验证集。
  • 定义数据预处理步骤,包括图像的尺寸调整、随机裁剪、归一化等。
  • 创建CustomDataset类的实例,用于加载和转换图像数据。
  • 使用DataLoader对训练集和验证集进行批处理,准备输入模型的数据。

(3)模型准备

  • 根据命令行参数选择不同的模型架构,如ResNet18、ResNet50、MobileNetV2等,并根据是否使用预训练模型进行相应配置。
  • 将模型移至适当的设备(CPU或GPU)。

(4)训练与验证

  • 定义损失函数(交叉熵损失)和优化器(Adam优化器)。
  • 对模型进行多个周期的训练和验证:
    • 训练阶段:模型在训练模式下运行。对每个批次的数据,执行前向传播、计算损失、执行反向传播并更新模型参数。
    • 验证阶段:模型在评估模式下运行,计算验证集上的损失和准确率,以评估模型的性能。
  • 在每个周期结束时,如果验证准确率有所提高,则保存当前最佳模型。
  • 为了便于模型的恢复和进一步训练,每隔一定周期保存模型的检查点。

(5)结果保存

  • 将训练过程中得到的最佳模型保存到指定路径。
  • 可选地,保存训练过程中的一些检查点,以便未来可以从特定的周期恢复训练。

2.2 代码

以下是一个动物图像分类的训练脚本,使用PyTorch框架。它包含了从数据预处理到模型训练、验证以及保存模型的完整流程。

文件名:train.py

  1. import torch
  2. import torch.nn as nn
  3. import torch.optim as optim
  4. from torch.utils.data import DataLoader, Dataset
  5. from torchvision import transforms, models
  6. from sklearn.model_selection import train_test_split
  7. import os
  8. from split_data import get_label_from_path
  9. import json
  10. from tqdm import tqdm
  11. from PIL import Image
  12. import argparse
  13. def resize_and_pad(image, target_height=224, target_width=224):
  14. # 将PIL Image对象直接用于获取其尺寸
  15. original_width, original_height = image.size
  16. # 计算宽度和高度的缩放比例
  17. scale = min(target_width / original_width, target_height / original_height)
  18. # 应用等比例缩放
  19. new_width, new_height = int(original_width * scale), int(original_height * scale)
  20. resized_image = image.resize((new_width, new_height), Image.Resampling.LANCZOS)
  21. # 创建填充用的背景图像
  22. if image.mode == 'L': # 灰度图
  23. mode = 'L'
  24. elif image.mode in ['RGB', 'RGBA']: # RGB或RGBA彩色图
  25. mode = image.mode
  26. else:
  27. raise ValueError("Unsupported image mode.")
  28. # 创建一个新的空白图片用于填充
  29. padded_image = Image.new(mode, (target_width, target_height))
  30. # 计算填充位置
  31. start_x = (target_width - new_width) // 2
  32. start_y = (target_height - new_height) // 2
  33. # 将缩放后的图像粘贴到新的背景图中
  34. padded_image.paste(resized_image, (start_x, start_y))
  35. return padded_image
  36. class CustomDataset(Dataset):
  37. def __init__(self, file_paths, label_mapping, transform=None):
  38. self.file_paths = file_paths
  39. self.label_mapping = label_mapping
  40. self.transform = transform
  41. def __len__(self):
  42. return len(self.file_paths) # 返回数据集中的样本数量
  43. def __getitem__(self, idx):
  44. image_path = self.file_paths[idx]
  45. image = Image.open(image_path).convert('RGB')
  46. image = resize_and_pad(image, 224, 224)
  47. label_str = get_label_from_path(image_path)
  48. label = self.label_mapping[label_str] # 使用映射转换标签
  49. if self.transform:
  50. to_tensor = transforms.ToTensor()
  51. image = to_tensor(image)
  52. return image, torch.tensor(label), image_path
  53. def train(model, train_loader, criterion, optimizer, device):
  54. model.train()
  55. running_loss = 0.0
  56. correct = 0
  57. total = 0
  58. for images, labels, image_path in tqdm(train_loader, desc="Training"):
  59. images = images.float() # 将输入数据转换为FloatTensor
  60. images, labels = images.to(device), labels.to(device)
  61. optimizer.zero_grad()
  62. outputs = model(images)
  63. loss = criterion(outputs, labels)
  64. loss.backward()
  65. optimizer.step()
  66. running_loss += loss.item()
  67. _, predicted = torch.max(outputs.data, 1)
  68. total += labels.size(0)
  69. correct += (predicted == labels).sum().item()
  70. accuracy = 100 * correct / total
  71. return running_loss / len(train_loader), accuracy
  72. def validate(model, val_loader, criterion, device):
  73. model.eval()
  74. running_loss = 0.0
  75. correct = 0
  76. total = 0
  77. with torch.no_grad():
  78. for images, labels, image_path in tqdm(val_loader, desc="Validation"):
  79. images = images.float() # 将输入数据转换为FloatTensor
  80. images, labels = images.to(device), labels.to(device)
  81. outputs = model(images)
  82. loss = criterion(outputs, labels)
  83. running_loss += loss.item()
  84. _, predicted = torch.max(outputs.data, 1)
  85. total += labels.size(0)
  86. correct += (predicted == labels).sum().item()
  87. accuracy = 100 * correct / total
  88. return running_loss / len(val_loader), accuracy
  89. def main(args):
  90. # 解析参数
  91. train_path = args.train_path
  92. json_path = args.json_path
  93. save_path = args.save_path
  94. lr = args.lr
  95. batch_size = args.batch_size
  96. pretrained = args.pretrained
  97. model_name = args.model
  98. # 创建保存路径
  99. os.makedirs(save_path, exist_ok=True)
  100. # 读取数据
  101. with open(train_path, 'r') as file:
  102. file_paths = [line.strip() for line in file.readlines()]
  103. # 加载标签映射
  104. with open(json_path, 'r') as file:
  105. label_mapping = json.load(file)
  106. img_size = {"s": [224, 224], # train_size, val_size
  107. "m": [384, 480],
  108. "l": [384, 480]}
  109. num_model = "s"
  110. # 划分训练集和验证集
  111. train_paths, val_paths = train_test_split(file_paths, test_size=0.1)
  112. # 数据预处理
  113. transform = {
  114. "train": transforms.Compose([
  115. transforms.RandomResizedCrop(img_size[num_model][0]),
  116. transforms.RandomHorizontalFlip(),
  117. transforms.ToTensor(),
  118. transforms.Normalize([0.5, 0.5, 0.5], [0.5, 0.5, 0.5])]),
  119. "val": transforms.Compose([transforms.Resize(img_size[num_model][1]),
  120. transforms.ToTensor(),
  121. transforms.Normalize([0.5, 0.5, 0.5], [0.5, 0.5, 0.5])])}
  122. # 创建数据集和数据加载器
  123. train_dataset = CustomDataset(train_paths, label_mapping, transform=transform['train'])
  124. val_dataset = CustomDataset(val_paths, label_mapping, transform=transform['val'])
  125. train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True)
  126. val_loader = DataLoader(val_dataset, batch_size=batch_size, shuffle=False)
  127. # 定义模型
  128. device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
  129. if model_name == 'resnet50':
  130. model = models.resnet50(pretrained=pretrained) # resnet50
  131. elif model_name == 'resnet18':
  132. model = models.resnet18(pretrained=pretrained) # resnet18
  133. elif model_name == 'resnet34':
  134. model = models.resnet34(pretrained=pretrained) # resnet34
  135. elif model_name == 'resnet101':
  136. model = models.resnet101(pretrained=pretrained) # resnet101
  137. elif model_name == 'mobilenetv2':
  138. model = models.mobilenet_v2(pretrained=pretrained) # mobilenetv2
  139. elif model_name == 'convnext':
  140. model = models.convnext_base(pretrained=pretrained) # convnext_base
  141. elif model_name == 'efficientnetv2':
  142. model = models.efficientnet_v2_s(pretrained=pretrained) # efficientnet_v2_s
  143. model = model.to(device)
  144. # 定义损失函数和优化器
  145. criterion = nn.CrossEntropyLoss()
  146. optimizer = optim.Adam(model.parameters(), lr=lr)
  147. # 训练和验证
  148. epochs = args.epochs
  149. best_val_accuracy = 0.0 # 用于跟踪最高验证准确率
  150. for epoch in range(epochs):
  151. train_loss, train_accuracy = train(model, train_loader, criterion, optimizer, device)
  152. val_loss, val_accuracy = validate(model, val_loader, criterion, device)
  153. print()
  154. print(f"Epoch {epoch + 1}/{epochs} - "
  155. f"Train Loss: {train_loss:.4f}, Train Accuracy: {train_accuracy:.2f}% - "
  156. f"Val Loss: {val_loss:.4f}, Val Accuracy: {val_accuracy:.2f}%")
  157. # 如果当前验证准确率高于之前的最高准确率,则保存模型
  158. if val_accuracy >= best_val_accuracy:
  159. best_val_accuracy = val_accuracy
  160. torch.save(model.state_dict(), f'{save_path}/best_model.pt')
  161. print(f"\nValidation accuracy improved to {val_accuracy:.2f}%. Saving model to {save_path}/best_model.pt")
  162. if (epoch + 1) % 10 == 0 :
  163. checkpoint_path = f'{save_path}/model_epoch_{epoch + 1}.pt'
  164. torch.save(model.state_dict(), checkpoint_path)
  165. print(f"Saved model checkpoint to '{checkpoint_path}' at epoch {epoch + 1}.")
  166. if __name__ == '__main__':
  167. # 创建 ArgumentParser 对象
  168. parser = argparse.ArgumentParser(description="Process some paths.")
  169. # 添加参数
  170. parser.add_argument('--train_path', default='file/animal-5/train.txt',
  171. type=str, help='保存训练集路径的txt文件路径')
  172. parser.add_argument('--json_path', default='file/animal-5/classes.json',
  173. type=str, help='映射标签的json文件路径')
  174. parser.add_argument('--save_path', default='result/resnet18',
  175. type=str, help='模型保存路径')
  176. parser.add_argument('--batch_size', default=32, type=int)
  177. parser.add_argument('--lr', default=2e-4, type=float)
  178. parser.add_argument('--pretrained', default=False, type=bool, help='是否使用预训练模型')
  179. parser.add_argument('--ratio', default=0.1, type=float, help='划分验证集的数据比例')
  180. parser.add_argument('--epochs', default=100, type=int, help='训练总次数')
  181. parser.add_argument('--model', default='resnet18', type=str,
  182. help='resnet18, resnet50, resnet101, ')
  183. args = parser.parse_args()
  184. main(args)

2.3 代码使用方法

根据实际需要和代码提示,对以下参数的default进行更改即可。

(1)参数列表

  • --train_path:指定保存训练集图片路径的文本文件的路径。默认值为file/animal-5/train.txt。这个文件应该包含所有训练图像的路径,每个路径占一行。

  • --json_path:指定包含标签和对应类别映射的JSON文件的路径。默认值为file/animal-5/classes.json。这个文件用于将图像的标签(例如类别名称)映射为模型训练时使用的整数索引。

  • --save_path:指定训练完成的模型保存位置的路径。默认值为result/resnet18。如果训练过程中的验证准确率超过了之前的最高纪录,最佳模型将被保存到这个位置。

  • --batch_size:训练和验证过程中的批处理大小。默认值为32。这决定了每次前向和反向传播过程中将处理多少图像。

  • --lr(学习率):优化器使用的学习率。默认值为0.0002。学习率决定了模型参数在每次迭代中更新的幅度。

  • --pretrained:是否使用预训练的模型作为起点进行训练。默认为False。如果设置为True,模型将使用在大型数据集(如ImageNet)上预先训练得到的权重,这通常可以帮助改进模型的性能。

  • --ratio:用于从训练数据中划分验证集的数据比例。默认值为0.1,即10%的训练数据将被用作验证集。

  • --epochs:总训练周期数。默认值为100。这决定了整个训练集将被遍历多少次。

  • --model:选择使用的模型架构。默认为resnet18。该参数允许用户根据需要选择不同的模型架构,例如resnet50, resnet101等。

(2)使用命令

基于默认参数运行脚本的示例命令如下:

python train.py
如果需要自定义参数,可以在命令后添加相应的选项,如下所示:
python train.py --train_path mypath/train.txt --json_path mypath/classes.json --save_path myresult --batch_size 64 --lr 0.001 --pretrained True --epochs 50 --model resnet50

 训练过程效果图:

3. 模型评估

3.1 模型评估步骤 

(1)参数解析

  • 通过argparse库,脚本首先定义了一系列命令行参数,允许用户指定测试数据集路径、类别标签的JSON文件路径、模型保存路径、结果输出路径、是否使用预训练模型以及模型的类型。

(2)环境设置

  • 确定模型运行的设备(CPU或GPU)并设置好,确保评估过程能够利用硬件加速。

(3)模型加载

  • 根据用户指定的模型类型和是否使用预训练权重,加载相应的模型架构。支持多种模型,如ResNet18、ResNet50等。
  • 遍历模型保存路径下所有指定的模型检查点文件,对每个模型进行加载和评估。

(4)测试数据准备

  • 读取测试集图像路径列表和标签映射文件。
  • 定义图像预处理流程,包括尺寸调整、归一化等。
  • 使用CustomDataset类(从train模块导入)创建测试数据集,然后使用DataLoader准备用于批量评估的测试数据。

(5)模型评估

  • 对每个加载的模型,遍历测试数据集,预测图像标签,并收集所有预测结果和真实标签。
  • 计算混淆矩阵以及其他关键性能指标,如准确率、精确度、召回率和F1得分。

(6)结果输出

  • 打印混淆矩阵和评估指标。
  • 将混淆矩阵和评估指标保存为CSV文件,方便后续查看和分析。

3.2 代码

  1. import os
  2. import torch
  3. from torch.utils.data import DataLoader, Dataset
  4. import json
  5. from sklearn.metrics import confusion_matrix, accuracy_score, precision_score, recall_score, f1_score
  6. import pandas as pd
  7. from torchvision import transforms, models
  8. from train import CustomDataset
  9. from tqdm import tqdm
  10. import argparse
  11. def evaluate(model, test_loader, device, label_mapping):
  12. model.eval()
  13. all_preds = []
  14. all_labels = []
  15. with torch.no_grad():
  16. for images, labels, img_paths in tqdm(test_loader, desc="Test"):
  17. images = images.float() # 将输入数据转换为FloatTensor
  18. images = images.to(device)
  19. outputs = model(images)
  20. _, predicted = torch.max(outputs.data, 1)
  21. all_preds.extend(predicted.cpu().numpy())
  22. all_labels.extend(labels.cpu().numpy())
  23. # 计算混淆矩阵
  24. cm = confusion_matrix(all_labels, all_preds)
  25. return cm, all_labels, all_preds
  26. def main(args):
  27. # 解析参数
  28. test_path = args.test_path
  29. json_path = args.json_path
  30. model_path = args.model_path
  31. pretrained = args.pretrained
  32. model_name = args.model
  33. result_path = args.result_path
  34. os.makedirs(result_path, exist_ok=True)
  35. # 加载模型
  36. if model_name == 'resnet50':
  37. model = models.resnet50(pretrained=pretrained) # resnet50
  38. elif model_name == 'resnet18':
  39. model = models.resnet18(pretrained=pretrained) # resnet18
  40. elif model_name == 'resnet34':
  41. model = models.resnet34(pretrained=pretrained) # resnet34
  42. elif model_name == 'resnet101':
  43. model = models.resnet101(pretrained=pretrained) # resnet101
  44. elif model_name == 'mobilenetv2':
  45. model = models.mobilenet_v2(pretrained=pretrained) # mobilenetv2
  46. elif model_name == 'convnext':
  47. model = models.convnext_base(pretrained=pretrained) # convnext_base
  48. elif model_name == 'efficientnetv2':
  49. model = models.efficientnet_v2_s(pretrained=pretrained) # efficientnet_v2_s
  50. paths_list = [
  51. 'best_model.pt',
  52. 'model_epoch_10.pt', 'model_epoch_20.pt',
  53. 'model_epoch_30.pt', 'model_epoch_40.pt',
  54. 'model_epoch_50.pt', 'model_epoch_60.pt',
  55. 'model_epoch_70.pt', 'model_epoch_80.pt',
  56. 'model_epoch_90.pt', 'model_epoch_100.pt',
  57. ]
  58. for _ in paths_list:
  59. path = f'{model_path}/{_}'
  60. # 加载保存的权重
  61. model.load_state_dict(torch.load(path))
  62. device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
  63. model = model.to(device)
  64. # 加载测试集
  65. with open(test_path, 'r') as file:
  66. test_paths = [line.strip() for line in file]
  67. # 加载标签映射
  68. with open(json_path, 'r') as file:
  69. label_mapping = json.load(file)
  70. # 设置数据转换
  71. transform = transforms.Compose([
  72. transforms.Resize((224, 224)), # 示例尺寸,根据需要调整
  73. transforms.ToTensor(),
  74. transforms.Normalize([0.5, 0.5, 0.5], [0.5, 0.5, 0.5])
  75. ])
  76. # 创建测试数据集和数据加载器
  77. test_dataset = CustomDataset(test_paths, label_mapping, transform=transform)
  78. test_loader = DataLoader(test_dataset, batch_size=1, shuffle=False)
  79. # 设备配置
  80. device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
  81. model.to(device)
  82. # 评估模型
  83. conf_matrix, labels, preds = evaluate(model, test_loader, device, label_mapping)
  84. # 打印混淆矩阵
  85. print(f'{path}: ')
  86. print("Confusion Matrix:")
  87. print(conf_matrix)
  88. # 计算评估指标
  89. accuracy = accuracy_score(labels, preds)
  90. precision = precision_score(labels, preds, average='macro')
  91. recall = recall_score(labels, preds, average='macro')
  92. f1 = f1_score(labels, preds, average='macro')
  93. # 创建包含混淆矩阵的DataFrame
  94. conf_matrix_df = pd.DataFrame(conf_matrix, columns=label_mapping.keys(), index=label_mapping.keys())
  95. conf_matrix_df.index.name = 'Actual'
  96. conf_matrix_df.columns.name = 'Predicted'
  97. # 将评估指标添加到混淆矩阵的下方
  98. metrics_df = pd.DataFrame({
  99. "Metric": ["Accuracy", "Precision", "Recall", "F1 Score"],
  100. "Value": [accuracy, precision, recall, f1]
  101. })
  102. # 保存混淆矩阵和评估指标到CSV文件
  103. combined_df = pd.concat([conf_matrix_df, metrics_df], axis=0)
  104. combined_df.to_csv(f"{result_path}/{_}_confusion_matrix.csv", index=True)
  105. # 打印指标
  106. print(metrics_df)
  107. if __name__ == '__main__':
  108. # 创建 ArgumentParser 对象
  109. parser = argparse.ArgumentParser(description="Process some paths.")
  110. # 添加参数
  111. parser.add_argument('--test_path', default='file/animal-5/test.txt',
  112. type=str, help='保存训练集路径的txt文件路径')
  113. parser.add_argument('--json_path', default='file/animal-5/classes.json',
  114. type=str, help='映射标签的json文件路径')
  115. parser.add_argument('--model_path', default='result/resnet18',
  116. type=str, help='模型保存路径')
  117. parser.add_argument('--result_path', default='result/resnet18_csv',
  118. type=str, help='保存混淆矩阵和评估结果到csv文件的路径')
  119. parser.add_argument('--pretrained', default=False, type=bool, help='是否使用预训练模型')
  120. parser.add_argument('--model', default='resnet18', type=str,
  121. help='resnet18, resnet50, resnet101')
  122. args = parser.parse_args()
  123. main(args)

3.3 代码使用方法

(1)参数详解

  • <script_name>.py:替换为脚本的文件名。
  • --test_path <path_to_test_txt>:指向一个文本文件的路径,该文件包含了测试集图像的路径。每个路径应该占一行。
  • --json_path <path_to_classes_json>:指向一个JSON文件的路径,该文件包含了标签到类别的映射。
  • --model_path <path_to_saved_models>:模型保存的文件夹路径。这是训练过程中保存的模型权重。
  • --result_path <path_for_output_csv>:输出结果的文件夹路径。混淆矩阵和性能指标的CSV文件将保存在这里。
  • --pretrained <True_or_False>:指定是否使用预训练的模型权重。应该为TrueFalse
  • --model <model_type>:指定模型的类型。可以是resnet18, resnet50, resnet101等。

(2)示例命令

假设你的脚本名为evaluate.py,测试数据列表保存在./file/animal-5/test.txt,标签映射文件位于./file/animal-5/classes.json,训练好的模型保存在./result/resnet18,你希望将结果保存到./result/resnet18_csv,并且你使用的是预训练的resnet18模型,以下是相应的命令:

python evaluate.py --test_path ./file/animal-5/test.txt --json_path ./file/animal-5/classes.json --model_path ./result/resnet18 --result_path ./result/resnet18_csv --pretrained True --model resnet18

确保替换命令中的路径和参数以匹配你的具体情况。运行此命令后,脚本将使用指定的测试数据评估模型,并将混淆矩阵及性能指标输出到指定的路径。

控制台输出结果:

csv保存结果

 

4. 总结

我们深入探讨了深度学习在图像分类任务中的应用,以动物分类为例进行了实战演练。我们从数据集的准备和预处理开始,探讨了如何通过调整图像尺寸和应用数据增强技术来提高模型的泛化能力。接着,我们讨论了不同的深度学习模型架构,训练代码中集成了如ResNet和MobileNet等模型,并介绍了如何使用PyTorch框架来训练这些模型。

我们通过命令行参数灵活地控制训练过程,允许用户自定义模型训练的各个方面,包括模型的选择、是否使用预训练权重、学习率和批大小等。通过实现自定义的数据加载器,我们能够有效地处理图像数据和标签,为模型训练和评估提供了强大的支持。

在模型训练部分,我们强调了训练过程中的关键环节,如损失函数的选择、优化器的配置以及如何根据验证集的表现来保存最佳模型。此外,我们还探讨了模型评估的重要性,通过计算混淆矩阵和关键性能指标(如准确率、精确度、召回率和F1得分)来深入了解模型在未见数据上的表现。

在整个系列中,我们的目标是提供一个全面的指南,帮助读者了解和实现一个完整的图像分类项目。通过详细的代码示例和解释,我们希望读者能够不仅理解深度学习模型背后的原理,还能够自信地应用这些技术来解决自己感兴趣的问题。

之后我们会陆续更新不同的深度学习图像处理的技术和代码,不仅向大家提供便于在实验中使用的代码,也尽量提供能落地应用的代码框架。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/运维做开发/article/detail/741830
推荐阅读
相关标签
  

闽ICP备14008679号