pytorch版yolov3训练自己voc数据集_yolov3训练voc数据集pycharm

在这里我的训练集是voc的数据集
https://blog.csdn.net/csdn_zhishui/article/details/84962587#212__119
因为我的数据集是参加比赛里面直接有的 标签也已经打好了 所以如果有想要自己打标签制作voc数据集的 可以参考上面那篇文章
然后我的数据集最开始是如下的：
这个数据集是放在myData中的

…JPEGImages#存放图像

…Annotations#存放图像对应的xml文件

…ImageSets/Main # 存放训练/验证图像的名字（格式如 000001.jpg或者000001）

二 下载编译darknet

git clone https://github.com/pjreddie/darknet
cd darknet
1
2

然后修改配置文件Makefile

make Makefile 
修改下面的即可
GPU=1 #如果使用GPU设置为1，CPU设置为0
CUDNN=1  #如果使用CUDNN设置为1，否则为0
OPENCV=0 #如果调用摄像头，还需要设置OPENCV为1，否则为0
OPENMP=0  #如果使用OPENMP设置为1，否则为0
DEBUG=0  #如果使用DEBUG设置为1，否则为0

1
2
3
4
5
6
7
8

编译

make
1

下载yolov3预训练模型

wget https://pjreddie.com/media/files/yolov3.weights
1

测试

./darknet detect cfg/yolov3.cfg yolov3.weights data/dog.jpg
1

三、准备数据集、训练、测试

1.在darknet目录下创建myData文件夹，目录结构如下，将之前标注好的图片和xml文件放到对应目录下
然后再去分为测试集 验证集 和训练集
代码如下 这个代码我是直接在终端运行的 代码名字为test.py
放在mydata中

import os
import random
 
trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'myData/Annotations'
txtsavepath = 'myData/ImageSets'
total_xml = os.listdir(xmlfilepath)
 
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
 
ftrainval = open('myData/ImageSets/trainval.txt', 'w')
ftest = open('myData/ImageSets/test.txt', 'w')
ftrain = open('myData/ImageSets/train.txt', 'w')
fval = open('myData/ImageSets/val.txt', 'w')
 
for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)
 
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36

弄好后 就分好了
在darknet文件夹下新建一个my_lables.py文件，
分好后 voc数据集是需要生成label文件 所以可以通过下面的代码来生成 这个my_lables.py文件是放在darknet里面的

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
 
sets = ['train', 'test','val'] # 这里替换成自己的数据集
 
#classes = ["RBC"]#我们只是检测细胞，因此只有一个类别
classes = ["一次性快餐盒", "书籍纸张", "充电宝", "剩饭剩菜", "包", "垃圾桶", "塑料器皿",
           "塑料玩具", "塑料衣架", "大骨头", "干电池", "快递纸袋", "插头电线", "旧衣服", "易拉罐",
           "枕头", "果皮果肉", "毛绒玩具", "污损塑料", "污损用纸", "洗护用品", "烟蒂", "牙签",
           "玻璃器皿", "砧板", "筷子", "纸盒纸箱", "花盆", "茶叶渣", "菜帮菜叶", "蛋壳",
           "调料瓶", "软膏", "过期药物", "酒瓶", "金属厨具", "金属器皿", "金属食品罐", "锅",
           "陶瓷器皿", "鞋", "食用油桶", "饮料瓶", "鱼骨"]
           #这个替换成自己的类别
 
 
def convert(size, box):
    dw = 1. / size[0]
    dh = 1. / size[1]
    x = (box[0] + box[1]) / 2.0
    y = (box[2] + box[3]) / 2.0
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)
 
 
def convert_annotation(image_id):
    in_file = open('myData/Annotations/%s.xml' % (image_id))
    out_file = open('myData/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
 
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        bb = convert((w, h), b)
        if bb[0] > 1 or bb[1] > 1 or bb[2] > 1 or bb[3] > 1:
            continue
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
 
 
wd = getcwd()
print(wd)
for image_set in sets:
    if not os.path.exists('myData/labels/'):
        os.makedirs('myData/labels/')
    image_ids = open('myData/ImageSets/%s.txt' % (image_set)).read().strip().split()
    list_file = open('myData/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        if image_id == '':
            continue  
        list_file.write('myData/JPEGImages/%s.jpg\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69

这样就会生成我们要的labels文件和train.txt val.txt test.txt文件

4.修改darknet/cfg下的voc.data和yolov3-voc.cfg文件

为了保险起见，复制这两个文件，并分别重命名为my_data.data和my_yolov3.cfg 这两个文件还是放在darknet/cfg下

my_data.data内容：

classes= 3 ##改为自己的分类个数
##下面都改为自己的路径
train  = /home/XXX/darknet/myData/myData_train.txt  
names = /home/XXX/darknet/myData/myData.names #稍后需要创建这个文件
backup = backup
1
2
3
4
5

my_yolov3.cfg的内容：

/yolo, 总共会搜出3个含有yolo的地方。
每个地方都必须要改2处， filters：3*（5+len（classes））；
其中：classes: len(classes) = 3，这里以我的工程为例
filters = 24
classes = 3
可修改：random = 1：原来是1，显存小改为0。（是否要多尺度输出。
1
2
3
4
5
6

在myData文件夹下新建myData.names文件
里面写好你自己的类别 像如下

people
foot
car
1
2
3

下载预训练权重 这个下载的是在darknet文件中的

wget https://pjreddie.com/media/files/darknet53.conv.74
1

开始训练

./darknet detector train cfg/my_data.data cfg/my_yolov3.cfg darknet53.conv.74
1

从停止处重新训练

./darknet detector train cfg/my_data.data cfg/my_yolov3.cfg darknet53.conv.74 -gups 0,1,2,3 myData/backup/my_yolov3.backup -gpus 0,1,2,3
1

训练过程中参数的意义

Region xx: cfg文件中yolo-layer的索引；
Avg IOU:当前迭代中，预测的box与标注的box的平均交并比，越大越好，期望数值为1；
Class: 标注物体的分类准确率，越大越好，期望数值为1；
obj: 越大越好，期望数值为1；
No obj: 越小越好；
.5R: 以IOU=0.5为阈值时候的recall; recall = 检出的正样本/实际的正样本
0.75R: 以IOU=0.75为阈值时候的recall;
count:正样本数目。

Region 106 Avg IOU: 0.727626, Class: 0.998225, Obj: 0.798596, No Obj: 0.000121, .5R: 1.000000, .75R: 0.500000,  count: 2
Region 82 Avg IOU: 0.669070, Class: 0.998607, Obj: 0.958330, No Obj: 0.001297, .5R: 1.000000, .75R: 0.000000,  count: 2
Region 94 Avg IOU: 0.832890, Class: 0.999755, Obj: 0.965164, No Obj: 0.000829, .5R: 1.000000, .75R: 1.000000,  count: 1
Region 106 Avg IOU: 0.613751, Class: 0.999541, Obj: 0.791765, No Obj: 0.000554, .5R: 0.833333, .75R: 0.333333,  count: 12
Region 82 Avg IOU: -nan, Class: -nan, Obj: -nan, No Obj: 0.000007, .5R: -nan, .75R: -nan,  count: 0
Region 94 Avg IOU: 0.816189, Class: 0.999966, Obj: 0.999738, No Obj: 0.000673, .5R: 1.000000, .75R: 1.000000,  count: 2
Region 106 Avg IOU: 0.756419, Class: 0.999139, Obj: 0.891591, No Obj: 0.000712, .5R: 1.000000, .75R: 0.500000,  count: 12
12010: 0.454202, 0.404766 avg, 0.000100 rate, 2.424004 seconds, 768640 images
Loaded: 0.000034 seconds
1
2
3
4
5
6
7
8
9

这断代码展示了一个批次(batch)，批次大小的划分根据yolov3-voc.cfg的subdivisions参数。在我使用的 .cfg 文件中 batch =256，subdivision = 8，所以在训练输出中，训练迭代包含了32组，每组又包含了8张图片，跟设定的batch和subdivision的值一致。

批输出 针对上面的bacth的最后一行输出来说，12010代表当前训练的迭代次数,0.454202代表总体的loss，0.404766 avg代表平均损失，这个值越低越好，一般来说一旦这个数值低于0.060730 avg就可以终止训练了。0.0001代表当前的学习率，2.424004 seconds代表当前批次花费的总时间。768640代表3002*256代表当前训练的图片总数。

参考博文： https://www.cnblogs.com/answerThe/p/11481564.html

https://blog.csdn.net/qq_21578849/article/details/84980298?depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromBaidu-1&utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromBaidu-1

https://www.cnblogs.com/pprp/p/10863496.html