devbox
不正经
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用

作者：不正经 | 2024-02-16 11:29:37

赞

踩

ichallenge-pm

 

《专业创新实践Ⅱ》大作业

项目名称 LeNet在眼疾识别数据集iChallenge-PM上的应用

                                                        学    院   信息与通信工程学院        

                                                        年级专业  20级智能科学与技术        

                                                        姓    名    孙成                    

                                                        学    号    20203101694             

                                      完成时间    2021-7-7                

                                                       指导教师    邵春艳老师              

                                            开 课 时 间 2020 至 2021 学年第  二  学期

一、引言

LeNet在眼疾识别数据集iChallenge-PM上的应用

iChallenge-PM是百度大脑和中山大学中山眼科中心联合举办的iChallenge比赛中，提供的关于病理性近视（Pathologic Myopia，PM）的医疗类数据集，包含1200个受试者的眼底视网膜图片，训练、验证和测试数据集各400张。

说明：

如今近视已经成为困扰人们健康的一项全球性负担，在近视人群中，有超过35%的人患有重度近视。近视会拉长眼睛的光轴，也可能引起视网膜或者络网膜的病变。随着近视度数的不断加深，高度近视有可能引发病理性病变，这将会导致以下几种症状：视网膜或者络网膜发生退化、视盘区域萎缩、漆裂样纹损害、Fuchs斑等。因此，及早发现近视患者眼睛的病变并采取治疗，显得非常重要。

二、方法

（1）数学模型

LeNet是最早的卷积神经网络之一[1]。1998年，Yann LeCun第一次将LeNet卷积神经网络应用到图像分类上，在手写数字识别任务中取得了巨大成功。LeNet通过连续使用卷积和池化层的组合提取图像特征，其架构如 图1 所示，这里展示的是用于MNIST手写体数字识别任务中的LeNet-5模型： 

第一模块：包含5×5的6通道卷积和2×2的池化。卷积提取图像中包含的特征模式（激活函数使用Sigmoid），图像尺寸从28减小到24。经过池化层可以降低输出特征图对空间位置的敏感性，图像尺寸减到12。

第二模块：和第一模块尺寸相同，通道数由6增加为16。卷积操作使图像尺寸减小到8，经过池化后变成4。

第三模块：包含4×4的120通道卷积。卷积之后的图像尺寸减小到1，但是通道数增加为120。将经过第3次卷积提取到的特征图输入到全连接层。第一个全连接层的输出神经元的个数是64，第二个全连接层的输出神经元个数是分类标签的类别数，对于手写数字识别的类别数是10。然后使用Softmax激活函数即可计算出每个类别的预测概率。

（2）方法工具

1、运行环境：

 ​​​​​​​

百度人工智能平台Paddle

2、数据集：

眼疾识别数据集iChallenge-PM中既有病理性近视患者的眼底图片，也有非病理性近视患者的图片，命名规则如下：

  • 病理性近视（PM）：文件名以P开头
  • 非病理性近视（non-PM）：
    • 高度近视（high myopia）：文件名以H开头
    • 正常眼睛（normal）：文件名以N开头

我们将病理性患者的图片作为正样本，标签为1； 非病理性患者的图片作为负样本，标签为0。从数据集中选取两张图片，通过LeNet提取特征，构建分类器，对正负样本进行分类，并将图片显示出来。

​​​​​​​​​​​​​​

  • 实验过程
  1. 数据集准备

training.zip：包含训练中的图片和标签

validation.zip：包含验证集的图片

valid_gt.zip：包含验证集的标签

其中需要注意，需要将“/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT”目录下“PM_Label_and_Fovea_Location.xlsx”文件转存成.csv格式，本节代码示例中已经提前转成文件labels.csv。

（2）查看数据集图片

iChallenge-PM中既有病理性近视患者的眼底图片，也有非病理性近视患者的图片，命名规则如下：

  • 病理性近视（PM）：文件名以P开头
  • 非病理性近视（non-PM）：
    • 高度近视（high myopia）：文件名以H开头
    • 正常眼睛（normal）：文件名以N开头

我们将病理性患者的图片作为正样本，标签为1； 非病理性患者的图片作为负样本，标签为0。从数据集中选取两张图片，通过LeNet提取特征，构建分类器，对正负样本进行分类，并将图片显示出来。

代码如下：

  1. import os  
  2. import numpy as np  
  3. import matplotlib.pyplot as plt  
  4. %matplotlib inline  
  5. from PIL import Image  
  6.   
  7. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
  8. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
  9. file1 = 'N0012.jpg'  
  10. file2 = 'P0095.jpg'  
  11.   
  12. # 读取图片  
  13. img1 = Image.open(os.path.join(DATADIR, file1))  
  14. img1 = np.array(img1)  
  15. img2 = Image.open(os.path.join(DATADIR, file2))  
  16. img2 = np.array(img2)  
  17.   
  18. # 画出读取的图片  
  19. plt.figure(figsize=(16, 8))  
  20. f = plt.subplot(121)  
  21. f.set_title('Normal', fontsize=20)  
  22. plt.imshow(img1)  
  23. f = plt.subplot(122)  
  24. f.set_title('PM', fontsize=20)  
  25. plt.imshow(img2)  
  26. plt.show()  
  27. # 查看图片形状  
  28. img1.shape, img2.shape  
  29. ((2056, 2124, 3), (2056, 2124, 3))  

  1. 定义数据读取器

使用OpenCV从磁盘读入图片，将每张图缩放到224×224224×224大小，并且将像素值调整到[−1,1][−1,1]之间，代码如下所示：

  1. import cv2  
  2. import random  
  3. import numpy as np  
  4. import os  
  5.   
  6. # 对读入的图像数据进行预处理  
  7. def transform_img(img):  
  8.     # 将图片尺寸缩放道 224x224  
  9.     img = cv2.resize(img, (224, 224))  
  10.     # 读入的图像数据格式是[H, W, C]  
  11.     # 使用转置操作将其变成[C, H, W]  
  12.     img = np.transpose(img, (2,0,1))  
  13.     img = img.astype('float32')  
  14.     # 将数据范围调整到[-1.0, 1.0]之间  
  15.     img = img / 255.  
  16.     img = img * 2.0 - 1.0  
  17.     return img  
  18.   
  19. # 定义训练集数据读取器  
  20. def data_loader(datadir, batch_size=10, mode = 'train'):  
  21.     # 将datadir目录下的文件列出来，每条文件都要读入  
  22.     filenames = os.listdir(datadir)  
  23.     def reader():  
  24.         if mode == 'train':  
  25.             # 训练时随机打乱数据顺序  
  26.             random.shuffle(filenames)  
  27.         batch_imgs = []  
  28.         batch_labels = []  
  29.         for name in filenames:  
  30.             filepath = os.path.join(datadir, name)  
  31.             img = cv2.imread(filepath)  
  32.             img = transform_img(img)  
  33.             if name[0] == 'H' or name[0] == 'N':  
  34.                 # H开头的文件名表示高度近似，N开头的文件名表示正常视力  
  35.                 # 高度近视和正常视力的样本，都不是病理性的，属于负样本，标签为0  
  36.                 label = 0  
  37.             elif name[0] == 'P':  
  38.                 # P开头的是病理性近视，属于正样本，标签为1  
  39.                 label = 1  
  40.             else:  
  41.                 raise('Not excepted file name')  
  42.             # 每读取一个样本的数据，就将其放入数据列表中  
  43.             batch_imgs.append(img)  
  44.             batch_labels.append(label)  
  45.             if len(batch_imgs) == batch_size:  
  46.                 # 当数据列表的长度等于batch_size的时候，  
  47.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
  48.                 imgs_array = np.array(batch_imgs).astype('float32')  
  49.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  50.                 yield imgs_array, labels_array  
  51.                 batch_imgs = []  
  52.                 batch_labels = []  
  53.   
  54.         if len(batch_imgs) > 0:  
  55.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
  56.             imgs_array = np.array(batch_imgs).astype('float32')  
  57.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  58.             yield imgs_array, labels_array  
  59.   
  60.     return reader  
  61.   
  62. # 定义验证集数据读取器  
  63. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
  64.     # 训练集读取时通过文件名来确定样本标签，验证集则通过csvfile来读取每个图片对应的标签  
  65.     # 请查看解压后的验证集标签数据，观察csvfile文件里面所包含的内容  
  66.     # csvfile文件所包含的内容格式如下，每一行代表一个样本，  
  67.     # 其中第一列是图片id，第二列是文件名，第三列是图片标签，  
  68.     # 第四列和第五列是Fovea的坐标，与分类任务无关  
  69.     # ID,imgName,Label,Fovea_X,Fovea_Y  
  70.     # 1,V0001.jpg,0,1157.74,1019.87  
  71.     # 2,V0002.jpg,1,1285.82,1080.47  
  72.     # 打开包含验证集标签的csvfile，并读入其中的内容  
  73.     filelists = open(csvfile).readlines()  
  74.     def reader():  
  75.         batch_imgs = []  
  76.         batch_labels = []  
  77.         for line in filelists[1:]:  
  78.             line = line.strip().split(',')  
  79.             name = line[1]  
  80.             label = int(line[2])  
  81.             # 根据图片文件名加载图片，并对图像数据作预处理  
  82.             filepath = os.path.join(datadir, name)  
  83.             img = cv2.imread(filepath)  
  84.             img = transform_img(img)  
  85.             # 每读取一个样本的数据，就将其放入数据列表中  
  86.             batch_imgs.append(img)  
  87.             batch_labels.append(label)  
  88.             if len(batch_imgs) == batch_size:  
  89.                 # 当数据列表的长度等于batch_size的时候，  
  90.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
  91.                 imgs_array = np.array(batch_imgs).astype('float32')  
  92.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  93.                 yield imgs_array, labels_array  
  94.                 batch_imgs = []  
  95.                 batch_labels = []  
  96.   
  97.         if len(batch_imgs) > 0:  
  98.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
  99.             imgs_array = np.array(batch_imgs).astype('float32')  
  100.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  101.             yield imgs_array, labels_array  
  102.   
  103.     return reader  
  104. # 查看数据形状  
  105. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
  106. train_loader = data_loader(DATADIR,   
  107.                            batch_size=10, mode='train')  
  108. data_reader = train_loader()  
  109. data = next(data_reader)  
  110. data[0].shape, data[1].shape  
  111.   
  112. eval_loader = data_loader(DATADIR,   
  113.                            batch_size=10, mode='eval')  
  114. data_reader = eval_loader()  
  115. data = next(data_reader)  
  116. data[0].shape, data[1].shape  
  1. 启动训练：代码如下
  1. # -*- coding: utf-8 -*-  
  2. # LeNet 识别眼疾图片  
  3. import os  
  4. import random  
  5. import paddle  
  6. import numpy as np  
  7.   
  8. DATADIR = '/home/aistudio/work/palm/PALM-Training400/PALM-Training400'  
  9. DATADIR2 = '/home/aistudio/work/palm/PALM-Validation400'  
  10. CSVFILE = '/home/aistudio/labels.csv'  
  11.   
  12. # 定义训练过程  
  13. def train_pm(model, optimizer):  
  14.     # 开启0号GPU训练  
  15.     use_gpu = True  
  16.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  17.   
  18.     print('start training ... ')  
  19.     model.train()  
  20.     epoch_num = 5  
  21.     # 定义数据读取器，训练数据读取器和验证数据读取器  
  22.     train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
  23.     valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
  24.     for epoch in range(epoch_num):  
  25.         for batch_id, data in enumerate(train_loader()):  
  26.             x_data, y_data = data  
  27.             img = paddle.to_tensor(x_data)  
  28.             label = paddle.to_tensor(y_data)  
  29.             # 运行模型前向计算，得到预测值  
  30.             logits = model(img)  
  31.             loss = F.binary_cross_entropy_with_logits(logits, label)  
  32.             avg_loss = paddle.mean(loss)  
  33.   
  34.             if batch_id % 10 == 0:  
  35.                 print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
  36.             # 反向传播，更新权重，清除梯度  
  37.             avg_loss.backward()  
  38.             optimizer.step()  
  39.             optimizer.clear_grad()  
  40.   
  41.         model.eval()  
  42.         accuracies = []  
  43.         losses = []  
  44.         for batch_id, data in enumerate(valid_loader()):  
  45.             x_data, y_data = data  
  46.             img = paddle.to_tensor(x_data)  
  47.             label = paddle.to_tensor(y_data)  
  48.             # 运行模型前向计算，得到预测值  
  49.             logits = model(img)  
  50.             # 二分类，sigmoid计算后的结果以0.5为阈值分两个类别  
  51.             # 计算sigmoid后的预测概率，进行loss计算  
  52.             pred = F.sigmoid(logits)  
  53.             loss = F.binary_cross_entropy_with_logits(logits, label)  
  54.             # 计算预测概率小于0.5的类别  
  55.             pred2 = pred * (-1.0) + 1.0  
  56.             # 得到两个类别的预测概率，并沿第一个维度级联  
  57.             pred = paddle.concat([pred2, pred], axis=1)  
  58.             acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
  59.   
  60.             accuracies.append(acc.numpy())  
  61.             losses.append(loss.numpy())  
  62.         print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
  63.         model.train()  
  64.   
  65.         paddle.save(model.state_dict(), 'palm.pdparams')  
  66.         paddle.save(optimizer.state_dict(), 'palm.pdopt')  
  67.   
  68.   
  69. # 定义评估过程  
  70. def evaluation(model, params_file_path):  
  71.   
  72.     # 开启0号GPU预估  
  73.     use_gpu = True  
  74.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  75.   
  76.     print('start evaluation .......')  
  77.   
  78.     #加载模型参数  
  79.     model_state_dict = paddle.load(params_file_path)  
  80.     model.load_dict(model_state_dict)  
  81.   
  82.     model.eval()  
  83.     eval_loader = data_loader(DATADIR,   
  84.                         batch_size=10, mode='eval')  
  85.   
  86.     acc_set = []  
  87.     avg_loss_set = []  
  88.     for batch_id, data in enumerate(eval_loader()):  
  89.         x_data, y_data = data  
  90.         img = paddle.to_tensor(x_data)  
  91.         label = paddle.to_tensor(y_data)  
  92.         y_data = y_data.astype(np.int64)  
  93.         label_64 = paddle.to_tensor(y_data)  
  94.         # 计算预测和精度  
  95.         prediction, acc = model(img, label_64)  
  96.         # 计算损失函数值  
  97.         loss = F.binary_cross_entropy_with_logits(prediction, label)  
  98.         avg_loss = paddle.mean(loss)  
  99.         acc_set.append(float(acc.numpy()))  
  100.         avg_loss_set.append(float(avg_loss.numpy()))  
  101.     # 求平均精度  
  102.     acc_val_mean = np.array(acc_set).mean()  
  103.     avg_loss_val_mean = np.array(avg_loss_set).mean()  
  104.   
  105.     print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
  106. # -*- coding:utf-8 -*-  
  107.   
  108. # 导入需要的包  
  109. import paddle  
  110. import numpy as np  
  111. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
  112. import paddle.nn.functional as F  
  113.   
  114. # 定义 LeNet 网络结构  
  115. class LeNet(paddle.nn.Layer):  
  116.     def __init__(self, num_classes=1):  
  117.         super(LeNet, self).__init__()  
  118.   
  119.         # 创建卷积和池化层块，每个卷积层使用Sigmoid激活函数，后面跟着一个2x2的池化  
  120.         self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
  121.         self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
  122.         self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
  123.         self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
  124.         # 创建第3个卷积层  
  125.         self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
  126.         # 创建全连接层，第一个全连接层的输出神经元个数为64  
  127.         self.fc1 = Linear(in_features=300000, out_features=64)  
  128.         # 第二个全连接层输出神经元个数为分类标签的类别数  
  129.         self.fc2 = Linear(in_features=64, out_features=num_classes)  
  130.   
  131.     # 网络的前向计算过程  
  132.     def forward(self, x, label=None):  
  133.         x = self.conv1(x)  
  134.         x = F.sigmoid(x)  
  135.         x = self.max_pool1(x)  
  136.         x = self.conv2(x)  
  137.         x = F.sigmoid(x)  
  138.         x = self.max_pool2(x)  
  139.         x = self.conv3(x)  
  140.         x = F.sigmoid(x)  
  141.         x = paddle.reshape(x, [x.shape[0], -1])  
  142.         x = self.fc1(x)  
  143.         x = F.sigmoid(x)  
  144.         x = self.fc2(x)  
  145.         if label is not None:  
  146.             acc = paddle.metric.accuracy(input=x, label=label)  
  147.             return x, acc  
  148.         else:  
  149.             return x  
  150. # 创建模型  
  151. model = LeNet(num_classes=1)  
  152. # 启动训练过程  
  153. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
  154. train_pm(model, optimizer=opt)  
  155. evaluation(model, params_file_path="palm.pdparams")  

（5）参数调整：

文件报错：invalid literal for int() with base 10: ''

从网上找相关资料发现因为python不能直接将包含小数点的字符串转化为整数，而原始数据的格式经常是不一致的，故类型转化时造成ValueError异常。
解决方法：先将字符串转换为浮点数float，在将浮点数转化为整数int。

第一次改正：label = int(float(line[2]))

依旧报错：ValueError: could not convert string to float: ''

之后继续检阅资料发现原因：空字符串无法转成整型
解决办法：加入异常值抛出。若遇到ValueError错误，直接pass，否则执行else下面的程序。
 

修改后程序：

(6)除此之外就是一些文件地址的修改

以下是改正后的代码

  1. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  2. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
  3. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
  4. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
  5. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
  6. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'          
  7.   
  8. paddle.save(model.state_dict(), '眼疾识别.pdparams')  
  9. paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
  10. evaluation(model, params_file_path="眼疾识别.pdparams")  

(7)文件顺利执行，得出结果：

  1. 评估后得出结果:

loss=0.6918540149927139.acc=0.46750000305473804

可以看出效果并不是很理想，需要进一步调整学习率优化准确度

  • 结论

在老师布置了创新创业大作业以后，我便开始选择题目，在浏览了十多题后，我最终选择了眼疾识别问题作为此次创新创业课程设计的大作业。如今近视已经成为困扰人们健康的一项全球性负担，在近视人群中，有超过35%的人患有重度近视。因此，及早发现近视患者眼睛的病变并采取治疗，显得非常重要。定题后，我便开始后面的设计。

我们是这学期学的Python语言和百度Paddle人工智能平台，一下子接触很多新的概念，多多少少有点不适应，平时忙着复习预习物理数学等科目，就仅仅周末有一些时间练习Python语言和百度Paddle人工智能平台，于是把paddle平台和python的训练给丢下了，在最后一个月，才开始抓紧学习两个平台的搭配使用。

从Paddle平台获得程序后，我首先下载平台提供的数据集，并对已完成的代码更改程序中打开的本地文件地址。

在检查好滴之后，第一次运行，出现了左右两只眼球的图，把我高兴坏了，但高兴没过一会儿，出现了一个文件报错，内容是：invalid literal for int() with base 10: '' 从CSDN上检索了相关问题的解决办法，首先尝试的是将数据先转为float类型，再用int函数强行变为整型，但是发现改正后运行还是继续报错，报错内容为：ValueError: could not convert string to float: '' 这个时候，心里是有点害怕的，到底是接着int(float())改还是退回int（）改，再冷静思考后，我决定还是退回int（）改，以防代码出现大面积更换，不利于后期程序运行和理解。

在CSDN上继续检索后，又发现一个解决的方案，就是用pass函数跳过，

将代码处理后，再次运行，完美得到结果，并且没有出现任何大面积的程序改动。

顿时，好像一下子从暗无天日的盲目中找到了方向，心中一下子开阔起来。

这个过程出现了曲折大致可以认为是编程软件的更新，以及本地环境的不匹配导致的，网上很多的代码的都是基于个人本地环境实现的，相关的代码我不能直接套用，针对这个问题，我首先是阅读他的程序，判断哪些是我能自主修改最终能在我本地运行的。

检阅python相关的语法，接着学习paddle的使用方法，在进行改码时，还是出现了很多错误，在一遍遍的修改查资料后，还是不能一下子就很快地将程序调出来，这个时候我们想到了学长，在学长的指导下，我们很快地找到了问题的症结———相关文件尺寸的问题。

接下来的过程就很轻松，一遍遍的运行代码，一遍遍的优化代码，最终获得了实验得出最优的眼疾识别代码。

最后一点最重要的体会就是：要学会查找资料，要学会请教他人，学会坚持和钻研。不要怕！不要悔！

五、参考文献

   1、代码高亮处理http://www.codeinword.com

  2、paddle人工智能平台飞桨PaddlePaddle-源于产业实践的开源深度学习平台

  3、第一次处理方法https://blog.csdn.net/weixin_44034883/article/details/112918440

  4、第二次处理办法

https://blog.csdn.net/zcs_xueli/article/details/107458068?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-0&spm=1001.2101.3001.4242

六、以下是完整代码：

  1. import os  
  2. import numpy as np  
  3. import matplotlib.pyplot as plt  
  4. from PIL import Image  
  5.   
  6. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  7. # 文件名以N开头的是正常眼底图片，以P开头的是病变眼底图片  
  8. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
  9. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
  10.   
  11. # 读取图片  
  12. img1 = Image.open(os.path.join(DATADIR, file1))  
  13. img1 = np.array(img1)  
  14. img2 = Image.open(os.path.join(DATADIR, file2))  
  15. img2 = np.array(img2)  
  16.   
  17. # 画出读取的图片  
  18. plt.figure(figsize=(16, 8))  
  19. f = plt.subplot(121)  
  20. f.set_title('Normal', fontsize=20)  
  21. plt.imshow(img1)  
  22. f = plt.subplot(122)  
  23. f.set_title('PM', fontsize=20)  
  24. plt.imshow(img2)  
  25. plt.show()  
  26.   
  27. import cv2  
  28. import random  
  29. import numpy as np  
  30. import os  
  31.   
  32. # 对读入的图像数据进行预处理  
  33. def transform_img(img):  
  34.     # 将图片尺寸缩放道 224x224  
  35.     img = cv2.resize(img, (224, 224))  
  36.     # 读入的图像数据格式是[H, W, C]  
  37.     # 使用转置操作将其变成[C, H, W]  
  38.     img = np.transpose(img, (2,0,1))  
  39.     img = img.astype('float32')  
  40.     # 将数据范围调整到[-1.0, 1.0]之间  
  41.     img = img / 255.  
  42.     img = img * 2.0 - 1.0  
  43.     return img  
  44.   
  45. # 定义训练集数据读取器  
  46. def data_loader(datadir, batch_size=10, mode = 'train'):  
  47.     # 将datadir目录下的文件列出来，每条文件都要读入  
  48.     filenames = os.listdir(datadir)  
  49.     def reader():  
  50.         if mode == 'train':  
  51.             # 训练时随机打乱数据顺序  
  52.             random.shuffle(filenames)  
  53.         batch_imgs = []  
  54.         batch_labels = []  
  55.         for name in filenames:  
  56.             filepath = os.path.join(datadir, name)  
  57.             img = cv2.imread(filepath)  
  58.             img = transform_img(img)  
  59.             if name[0] == 'H' or name[0] == 'N':  
  60.                 # H开头的文件名表示高度近似，N开头的文件名表示正常视力  
  61.                 # 高度近视和正常视力的样本，都不是病理性的，属于负样本，标签为0  
  62.                 label = 0  
  63.             elif name[0] == 'P':  
  64.                 # P开头的是病理性近视，属于正样本，标签为1  
  65.                 label = 1  
  66.             else:  
  67.                 raise('Not excepted file name')  
  68.             # 每读取一个样本的数据，就将其放入数据列表中  
  69.             batch_imgs.append(img)  
  70.             batch_labels.append(label)  
  71.             if len(batch_imgs) == batch_size:  
  72.                 # 当数据列表的长度等于batch_size的时候，  
  73.                 # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
  74.                 imgs_array = np.array(batch_imgs).astype('float32')  
  75.                 labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  76.                 yield imgs_array, labels_array  
  77.                 batch_imgs = []  
  78.                 batch_labels = []  
  79.   
  80.         if len(batch_imgs) > 0:  
  81.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
  82.             imgs_array = np.array(batch_imgs).astype('float32')  
  83.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  84.             yield imgs_array, labels_array  
  85.   
  86.     return reader  
  87.   
  88. # 定义验证集数据读取器  
  89. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
  90.     # 训练集读取时通过文件名来确定样本标签，验证集则通过csvfile来读取每个图片对应的标签  
  91.     # 请查看解压后的验证集标签数据，观察csvfile文件里面所包含的内容  
  92.     # csvfile文件所包含的内容格式如下，每一行代表一个样本，  
  93.     # 其中第一列是图片id，第二列是文件名，第三列是图片标签，  
  94.     # 第四列和第五列是Fovea的坐标，与分类任务无关  
  95.     # ID,imgName,Label,Fovea_X,Fovea_Y  
  96.     # 1,V0001.jpg,0,1157.74,1019.87  
  97.     # 2,V0002.jpg,1,1285.82,1080.47  
  98.     # 打开包含验证集标签的csvfile，并读入其中的内容  
  99.     filelists = open(csvfile).readlines()  
  100.     def reader():  
  101.         batch_imgs = []  
  102.         batch_labels = []  
  103.         for line in filelists[1:]:  
  104.             line = line.strip().split(',')  
  105.             name = line[1]  
  106.             try:  
  107.                 label = int(line[2])  
  108.             except ValueError as e:  
  109.                 pass  
  110.             else:  
  111.                 # 根据图片文件名加载图片，并对图像数据作预处理  
  112.                 filepath = os.path.join(datadir, name)  
  113.                 img = cv2.imread(filepath)  
  114.                 img = transform_img(img)  
  115.                 # 每读取一个样本的数据，就将其放入数据列表中  
  116.                 batch_imgs.append(img)  
  117.                 batch_labels.append(label)  
  118.                 if len(batch_imgs) == batch_size:  
  119.                     # 当数据列表的长度等于batch_size的时候，  
  120.                     # 把这些数据当作一个mini-batch，并作为数据生成器的一个输出  
  121.                     imgs_array = np.array(batch_imgs).astype('float32')  
  122.                     labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  123.                     yield imgs_array, labels_array  
  124.                     batch_imgs = []  
  125.                     batch_labels = []  
  126.   
  127.         if len(batch_imgs) > 0:  
  128.             # 剩余样本数目不足一个batch_size的数据，一起打包成一个mini-batch  
  129.             imgs_array = np.array(batch_imgs).astype('float32')  
  130.             labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  131.             yield imgs_array, labels_array  
  132.   
  133.     return reader  
  134.   
  135. # 查看数据形状  
  136. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  137. train_loader = data_loader(DATADIR,  
  138.                            batch_size=10, mode='train')  
  139. data_reader = train_loader()  
  140. data = next(data_reader)  
  141. data[0].shape, data[1].shape  
  142.   
  143. eval_loader = data_loader(DATADIR,  
  144.                            batch_size=10, mode='eval')  
  145. data_reader = eval_loader()  
  146. data = next(data_reader)  
  147. data[0].shape, data[1].shape  
  148.   
  149. # LeNet 识别眼疾图片  
  150. import os  
  151. import random  
  152. import paddle  
  153. import numpy as np  
  154.   
  155. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  156. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
  157. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'  
  158.   
  159. # 定义训练过程  
  160. def train_pm(model, optimizer):  
  161.     # 开启0号GPU训练  
  162.     use_gpu = False  
  163.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  164.   
  165.     print('start training ... ')  
  166.     model.train()  
  167.     epoch_num = 5  
  168.     # 定义数据读取器，训练数据读取器和验证数据读取器  
  169.     train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
  170.     valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
  171.     for epoch in range(epoch_num):  
  172.         for batch_id, data in enumerate(train_loader()):  
  173.             x_data, y_data = data  
  174.             img = paddle.to_tensor(x_data)  
  175.             label = paddle.to_tensor(y_data)  
  176.             # 运行模型前向计算，得到预测值  
  177.             logits = model(img)  
  178.             loss = F.binary_cross_entropy_with_logits(logits, label)  
  179.             avg_loss = paddle.mean(loss)  
  180.   
  181.             if batch_id % 10 == 0:  
  182.                 print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
  183.             # 反向传播，更新权重，清除梯度  
  184.             avg_loss.backward()  
  185.             optimizer.step()  
  186.             optimizer.clear_grad()  
  187.   
  188.         model.eval()  
  189.         accuracies = []  
  190.         losses = []  
  191.         for batch_id, data in enumerate(valid_loader()):  
  192.             x_data, y_data = data  
  193.             img = paddle.to_tensor(x_data)  
  194.             label = paddle.to_tensor(y_data)  
  195.             # 运行模型前向计算，得到预测值  
  196.             logits = model(img)  
  197.             # 二分类，sigmoid计算后的结果以0.5为阈值分两个类别  
  198.             # 计算sigmoid后的预测概率，进行loss计算  
  199.             pred = F.sigmoid(logits)  
  200.             loss = F.binary_cross_entropy_with_logits(logits, label)  
  201.             # 计算预测概率小于0.5的类别  
  202.             pred2 = pred * (-1.0) + 1.0  
  203.             # 得到两个类别的预测概率，并沿第一个维度级联  
  204.             pred = paddle.concat([pred2, pred], axis=1)  
  205.             acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
  206.   
  207.             accuracies.append(acc.numpy())  
  208.             losses.append(loss.numpy())  
  209.         print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
  210.         model.train()  
  211.   
  212.         paddle.save(model.state_dict(), '眼疾识别.pdparams')  
  213.         paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
  214.   
  215.   
  216. # 定义评估过程  
  217. def evaluation(model, params_file_path):  
  218.   
  219.     # 开启0号GPU预估  
  220.     use_gpu = False  
  221.     paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  222.   
  223.     print('start evaluation .......')  
  224.   
  225.     #加载模型参数  
  226.     model_state_dict = paddle.load(params_file_path)  
  227.     model.load_dict(model_state_dict)  
  228.   
  229.     model.eval()  
  230.     eval_loader = data_loader(DATADIR,  
  231.                         batch_size=10, mode='eval')  
  232.   
  233.     acc_set = []  
  234.     avg_loss_set = []  
  235.     for batch_id, data in enumerate(eval_loader()):  
  236.         x_data, y_data = data  
  237.         img = paddle.to_tensor(x_data)  
  238.         label = paddle.to_tensor(y_data)  
  239.         y_data = y_data.astype(np.int64)  
  240.         label_64 = paddle.to_tensor(y_data)  
  241.         # 计算预测和精度  
  242.         prediction, acc = model(img, label_64)  
  243.         # 计算损失函数值  
  244.         loss = F.binary_cross_entropy_with_logits(prediction, label)  
  245.         avg_loss = paddle.mean(loss)  
  246.         acc_set.append(float(acc.numpy()))  
  247.         avg_loss_set.append(float(avg_loss.numpy()))  
  248.     # 求平均精度  
  249.     acc_val_mean = np.array(acc_set).mean()  
  250.     avg_loss_val_mean = np.array(avg_loss_set).mean()  
  251.   
  252.     print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
  253. # -*- coding:utf-8 -*-  
  254.   
  255. # 导入需要的包  
  256. import paddle  
  257. import numpy as np  
  258. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
  259. import paddle.nn.functional as F  
  260.   
  261. # 定义 LeNet 网络结构  
  262. class LeNet(paddle.nn.Layer):  
  263.     def __init__(self, num_classes=1):  
  264.         super(LeNet, self).__init__()  
  265.   
  266.         # 创建卷积和池化层块，每个卷积层使用Sigmoid激活函数，后面跟着一个2x2的池化  
  267.         self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
  268.         self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
  269.         self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
  270.         self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
  271.         # 创建第3个卷积层  
  272.         self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
  273.         # 创建全连接层，第一个全连接层的输出神经元个数为64  
  274.         self.fc1 = Linear(in_features=300000, out_features=64)  
  275.         # 第二个全连接层输出神经元个数为分类标签的类别数  
  276.         self.fc2 = Linear(in_features=64, out_features=num_classes)  
  277.   
  278.     # 网络的前向计算过程  
  279.     def forward(self, x, label=None):  
  280.         x = self.conv1(x)  
  281.         x = F.sigmoid(x)  
  282.         x = self.max_pool1(x)  
  283.         x = self.conv2(x)  
  284.         x = F.sigmoid(x)  
  285.         x = self.max_pool2(x)  
  286.         x = self.conv3(x)  
  287.         x = F.sigmoid(x)  
  288.         x = paddle.reshape(x, [x.shape[0], -1])  
  289.         x = self.fc1(x)  
  290.         x = F.sigmoid(x)  
  291.         x = self.fc2(x)  
  292.         if label is not None:  
  293.             acc = paddle.metric.accuracy(input=x, label=label)  
  294.             return x, acc  
  295.         else:  
  296.             return x  
  297. # 创建模型  
  298. model = LeNet(num_classes=1)  
  299. # 启动训练过程  
  300. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
  301. train_pm(model, opt)  
  302. evaluation(model, params_file_path="眼疾识别.pdparams")  

夹带点私货：海大牛！都给我来海大，也希望我能追的到我喜欢的女生

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/不正经/article/detail/92731
推荐阅读
相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。

  

闽ICP备14008679号