1、简介
PASCAL 全称:Pattern Analysis, Statical Modeling and Computational Learning
PASCAL VOC(The PASCAL Visual Object Classes )是一个经典的计算机视觉数据集,由牛津大学、马里兰大学和微软剑桥研究院的研究人员创建的。 该数据集于2005年首次发布,从那时起就被用于训练和评估目标检测算法。
PASCAL VOC 从 2005年开始举办挑战赛,每年的内容都有所不同,主要包括:
- 图像分类(Classification )
- 目标检测(Detection)
- 目标分割(Segmentation)
- 人体布局(Human Layout)
- 动作识别(Action Classification)
我们知道在 ImageNet挑战赛上涌现了一大批优秀的分类模型,而PASCAL挑战赛上则是涌现了一大批优秀的目标检测和分割模型,这项挑战赛已于2012年停止举办了,但是研究者仍然可以在其服务器上提交预测结果以评估模型的性能。
虽然近期的目标检测或分割模型更倾向于使用MS COCO数据集,但是这丝毫不影响 PASCAL VOC数据集的重要性,毕竟PASCAL对于目标检测或分割类型来说属于先驱者的地位。对于现在的研究者来说比较重要的两个年份的数据集是 PASCAL VOC 2007 与 PASCAL VOC 2012,这两个数据集频频在现在的一些检测或分割类的论文当中出现。
2、 官网地址
官网地址:http://host.robots.ox.ac.uk/pascal/VOC/
官方文档 : http://host.robots.ox.ac.uk/pascal/VOC/pubs/everingham10.pdf
3、数据集下载
1)下载方式一 :点击下方 链接直接下载
Pascal VOC 2007
- 训练集和验证集 下载地址 : training/validation data (450MB tar file)
- 测试集(图像 + 标注)下载地址: annotated test data (430MB tar file)
- 测试集(仅标注文件)下载地址: annotation only (12MB tar file, no images)
Pascal VOC 2012
- 训练集和验证集 下载地址: training/validation data (2GB tar file)
- 测试集标注未公开
2)下载方式二 : 从官网下载
a、Pascal VOC 2007 数据集
点击链接 进入 Pascal VOC 2007 主页 : http://host.robots.ox.ac.uk/pascal/VOC/voc2007
在页面中找到如下 下载链接,点击进行下载
b、Pascal VOC 2012 数据集
点击链接 进入 Pascal VOC 2012 主页 : http://host.robots.ox.ac.uk/pascal/VOC/voc2012/
在页面中找到如下 下载链接,点击进行下载
4、数据集的发展 与 20个类别
1)数据集的发展
对于 分类 和 检测 来说,下图所示为数据集的发展历程,相同颜色的代表相同的数据集:
- 05年、06年、07年、08年数据集,为互斥的,独立的、完全不相同的数据集
- 09年开始,所有数据集由前几年的部分图像 和 新图像组成
09年的数据集 = 07年部分图像 + 08年部分图像 + 09年新图像 - 10、11 年的数据集,均是在前一年的数据集上进行扩充
- 12 年的数据集 和 11年的数据集一样
虽然 Pascal VOC 2012 和 2007 版本的数据集存在一些共享的部分,但是它们的图像和标注文件在细节上还是有所不同的,因此在使用数据集时需要注意版本和文件的正确匹配。
2)20个类别
对于 图像分类任务 和 目标检测任务,数据集有 20个类别 (4大类)
}
"aeroplane": 1,
"bicycle": 2,
"bird": 3,
"boat": 4,
"bottle": 5,
"bus": 6,
"car": 7,
"cat": 8,
"chair": 9,
"cow": 10,
"diningtable": 11,
"dog": 12,
"horse": 13,
"motorbike": 14,
"person": 15,
"pottedplant": 16,
"sheep": 17,
"sofa": 18,
"train": 19,
"tvmonitor": 20
}
5、数据分布与统计
1)Pascal VOC 2007
\quad \quad 官方地址
2)Pascal VOC 2012
\quad \quad
官方地址
6、数据集的使用
目前广大研究者们普遍使用的是 VOC2007和VOC2012数据集。
论文中针对 VOC2007和VOC2012 的具体用法有以下几种:
- 只用VOC2007的trainval 训练,使用VOC2007的test测试
- 只用VOC2012的trainval 训练,使用VOC2012的test测试,这种用法很少使用,因为大家都会结合VOC2007使用
- 使用 VOC2007 的 train+val 和 VOC2012的 train+val 训练,然后使用 VOC2007的test测试,这个用法是论文中经常看到的 07+12 ,研究者可以自己测试在VOC2007上的结果,因为VOC2007的test是公开的。
- 使用 VOC2007 的 train+val+test 和 VOC2012的 train+val训练,然后使用 VOC2012的test测试,这个用法是论文中经常看到的 07++12 ,这种方法需提交到VOC官方服务器上评估结果,因为VOC2012 test没有公布。
- 先在 MS COCO 的 trainval 上预训练,再使用 VOC2007 的 train+val、 VOC2012的 train+val 微调训练,然后使用 VOC2007的test测试,这个用法是论文中经常看到的 07+12+COCO 。
- 先在 MS COCO 的 trainval 上预训练,再使用 VOC2007 的 train+val+test 、 VOC2012的 train+val 微调训练,然后使用 VOC2012的test测试 ,这个用法是论文中经常看到的 07++12+COCO,这种方法需提交到VOC官方服务器上评估结果,因为VOC2012 test没有公布。
7、数据集结构
1)Pascal VOC 2007
.
└── VOCdevkit
└── VOC2007
├── Annotations 标注文件(图像分类、目标检测、人体布局)
│ ├── 000005.xml
│ ├── 000007.xml
│ ├── 000009.xml
│ └── ... (共 5011个标注文件)
├── ImageSets 数据集分割信息 (训练集、验证集、训练集+验证集)
│ ├── Layout 用于人体布局图像信息
│ │ ├── train.txt
│ │ ├── trainval.txt
│ │ └── val.txt
│ ├── Main 用于图像分类和目标检测图像信息
│ │ ├── train.txt
│ │ ├── trainval.txt
│ │ ├── val.txt
│ │ └── ... (共63个文件)
│ └── Segmentation 用于语义分割和实例分割图像信息
│ ├── train.txt
│ ├── trainval.txt
│ └── val.txt
├── JPEGImages 所有原图像
│ ├── 000005.jpg
│ ├── 000007.jpg
│ ├── 000009.jpg
│ └── ... (共5011张图像)
├── SegmentationClass 语义分割标注图像
│ ├── 000032.png
│ ├── 000033.png
│ ├── 000039.png
│ └── ... (共422张图像)
└── SegmentationObject 实例分割标注图像
├── 000032.png
├── 000033.png
├── 000039.png
└── ... (共422张图像)
2)Pascal VOC 2012
.
└── VOCdevkit
└── VOC2012
├── Annotations 标注文件(图像分类、目标检测、人体布局)
│ ├── 2007_000027.xml
│ ├── 2007_000032.xml
│ ├── 2007_000033.xml
│ ├── 2007_000039.xml
│ └── ...(共17125张图像)
├── ImageSets 数据集分割信息 (训练集、验证集、训练集+验证集)
│ ├── Action 用于动作识别
│ │ ├── train.txt 2296张图像
│ │ ├── trainval.txt 4588张图像
│ │ ├── val.txt 2292张图像
│ │ └── ...
│ ├── Layout 用于人体布局
│ │ ├── train.txt 4425张图像
│ │ ├── trainval.txt 850张图像
│ │ └── val.txt 425张图像
│ ├── Main 用于图像分类和目标检测
│ │ ├── train.txt 5717张图像
│ │ ├── train_val.txt 11540张图像
│ │ └── trainval.txt 5823张图像
│ └── Segmentation 用于语义分割和实例分割
│ ├── train.txt 1464张图像
│ ├── trainval.txt 2913张图像
│ └── val.txt 1449张图像
├── JPEGImages 所有原图像
│ ├── 2007_000027.jpg
│ ├── 2007_000032.jpg
│ ├── 2007_000033.jpg
│ ├── 2007_000039.jpg
│ └── ...(共17125张图像)
├── SegmentationClass 语义分割标注图像
│ ├── 2007_000032.png
│ ├── 2007_000033.png
│ ├── 2007_000039.png
│ ├── 2007_000042.png
│ └── ...(共2913张图像)
└── SegmentationObject 实例分割标注图像
├── 2007_000032.png
├── 2007_000033.png
├── 2007_000039.png
├── 2007_000042.png
└── ...(共2913张图像)
3)2007 和 2012 数据结构的区别
1、Pascal VOC 2012 的数据集 因为是在前几年的数据集上进行扩增,所以文件名中包含年份,而 Pascal VOC 2007 的文件名中不包含
- Pascal VOC 2007 的标注文件名 和 图像文件名 类似为: 000005.xml、 000005.jpg
- Pascal VOC 2012 的标注文件名 和 图像文件名 类似为: 2007_000027.xml、 2007_000039.png
2、Pascal VOC 2012 的 ImageSets 中包括 Action 文件:用于动作识别任务的数据集划分,而 Pascal VOC 2007 的 ImageSets 文件中不包含, 因为 动作识别任务(Action Classification) 是2010年才有的。
3、.xml 的标注文件内容 有所不同,比如: 12版本中有的图像标注 是有 动作信息
8、标注文件结构
(1)目标检测 标注文件 Annotation
<annotation>
<folder>VOC2007</folder>
<filename>000001.jpg</filename>
<source>
<database>The VOC2007 Database</database>
<annotation>PASCAL VOC2007</annotation>
<image>flickr</image>
<flickrid>341012865</flickrid>
</source>
<owner>
<flickrid>Fried Camels</flickrid>
<name>Jinky the Fruit Bat</name>
</owner>
<size>
<width>353</width>
<height>500</height>
<depth>3</depth>
</size>
<segmented>0</segmented>
<object>
<name>dog</name>
<pose>Left</pose>
<truncated>1</truncated>
<difficult>0</difficult>
<bndbox>
<xmin>48</xmin>
<ymin>240</ymin>
<xmax>195</xmax>
<ymax>371</ymax>
</bndbox>
</object>
<object>
<name>person</name>
<pose>Left</pose>
<truncated>1</truncated>
<difficult>0</difficult>
<bndbox>
<xmin>8</xmin>
<ymin>12</ymin>
<xmax>352</xmax>
<ymax>498</ymax>
</bndbox>
</object>
</annotation>
- annotation:标注文件的根节点,包含了整个标注信息
- folder:图像所在的文件夹名称
- filename:图像的文件名
- source:图像来源
- owner:图像拥有者
- size:图像的尺寸信息,包括宽度、高度、深度。
- segmented:是否被分割标注过: 值为 0,未被过分割;值为 1,被分割标注。
- object:图像中的一个物体,其中的 信息包括:
- name:物体的类别名称, 20个类别
- bndbox:物体的边界框信息,包括左上角和右下角的坐标
- xmin:边界框左上角的 x 坐标
- ymin:边界框左上角的 y 坐标
- xmax:边界框右下角的 x 坐标
- ymax:边界框右下角的 y 坐标
- difficult:标记物体是否难以识别的标志,0 表示容易识别,1 表示难以识别
- truncated:标记物体是否被截断:0 表示未被截断,1 表示被截断(比如在图片之外,或者被遮挡超过15%)
- pose:标记物体的姿态,例如正面、侧面等
(2)语义分割标注图像 SegmentationClass
- 背景部分的 标注像素值 为 0
- 边界部分的标注像素值为 255
- 难以分割的区域,例如有重叠物体或遮挡的区域,标注像素值为255
- 被分割出的object 内部, 标注像素值为其类别索引。 比如,被分割的飞机部分的像素值为飞机类别索引值 1
}
"aeroplane": 1,
"bicycle": 2,
"bird": 3,
"boat": 4,
"bottle": 5,
"bus": 6,
"car": 7,
"cat": 8,
"chair": 9,
"cow": 10,
"diningtable": 11,
"dog": 12,
"horse": 13,
"motorbike": 14,
"person": 15,
"pottedplant": 16,
"sheep": 17,
"sofa": 18,
"train": 19,
"tvmonitor": 20
}
(3)实例分割标注图像 SegmentationObject
- 背景部分的 标注像素值 为 0
- 边界部分的标注像素值为 255
- 难以分割的区域,例如有重叠物体或遮挡的区域,标注像素值为255
- 被分割出的 object 内部,使用 物体实例的 ID 来标识它。物体实例的 ID :为该物体在 .xml 标注文件中的 index 。比如,在 .xml 标注文件中,排位第2个的 object,ID = 2,在标注图像中,该 object 的像素值,就为2
(4)人体布局 Human Layout
< /part> 标签 框起来的部分,就是人体布局的标签
<annotation>
<folder>VOC2012</folder>
<filename>2007_000027.jpg</filename>
<source>
<database>The VOC2007 Database</database>
<annotation>PASCAL VOC2007</annotation>
<image>flickr</image>
</source>
<size>
<width>486</width>
<height>500</height>
<depth>3</depth>
</size>
<segmented>0</segmented>
<object>
<name>person</name>
<pose>Unspecified</pose>
<truncated>0</truncated>
<difficult>0</difficult>
<bndbox>
<xmin>174</xmin>
<ymin>101</ymin>
<xmax>349</xmax>
<ymax>351</ymax>
</bndbox>
<part>
<name>head</name>
<bndbox>
<xmin>169</xmin>
<ymin>104</ymin>
<xmax>209</xmax>
<ymax>146</ymax>
</bndbox>
</part>
<part>
<name>hand</name>
<bndbox>
<xmin>278</xmin>
<ymin>210</ymin>
<xmax>297</xmax>
<ymax>233</ymax>
</bndbox>
</part>
<part>
<name>foot</name>
<bndbox>
<xmin>273</xmin>
<ymin>333</ymin>
<xmax>297</xmax>
<ymax>354</ymax>
</bndbox>
</part>
<part>
<name>foot</name>
<bndbox>
<xmin>319</xmin>
<ymin>307</ymin>
<xmax>340</xmax>
<ymax>326</ymax>
</bndbox>
</part>
</object>
</annotation>
(5)动作识别 Action Classification
< /actions> 标签 框起来的部分,就是动作识别的标签
<annotation>
<filename>2011_003279.jpg</filename>
<folder>VOC2011</folder>
<object>
<name>person</name>
<actions>
<jumping>0</jumping>
<other>0</other>
<phoning>0</phoning>
<playinginstrument>0</playinginstrument>
<reading>0</reading>
<ridingbike>0</ridingbike>
<ridinghorse>0</ridinghorse>
<running>0</running>
<takingphoto>0</takingphoto>
<usingcomputer>0</usingcomputer>
<walking>1</walking>
</actions>
<bndbox>
<xmax>188</xmax>
<xmin>109</xmin>
<ymax>500</ymax>
<ymin>307</ymin>
</bndbox>
<difficult>0</difficult>
<pose>Unspecified</pose>
<point>
<x>153</x>
<y>374</y>
</point>
</object>
<segmented>0</segmented>
<size>
<depth>3</depth>
<height>500</height>
<width>367</width>
</size>
<source>
<annotation>PASCAL VOC2011</annotation>
<database>The VOC2011 Database</database>
<image>flickr</image>
</source>
</annotation>
9、数据集解析 - 目标检测任务
将数据集转换为 yolo 格式 , YOLO 数据格式介绍: YOLO 数据集格式
import xml.etree.ElementTree as ET
import os
# voc的20个类别
classes = ['aeroplane', 'bicycle', 'bird', 'boat', 'bottle', 'bus', 'car', 'cat', 'chair', 'cow', 'diningtable',
'dog', 'horse', 'motorbike', 'person', 'pottedplant', 'sheep', 'sofa', 'train', 'tvmonitor']
def convert(size, bbox):
x = (bbox[0] + bbox[1]) / 2.0
y = (bbox[2] + bbox[3]) / 2.0
w = bbox[1] - bbox[0]
h = bbox[3] - bbox[2]
x = x / size[0]
w = w / size[0]
y = y / size[1]
h = h / size[1]
return (x, y, w, h)
def convert_annotation(xml_file, save_file):
# 保存yolo格式 的label 的 .txt 文件地址
save_file = open(save_file, 'w')
tree = ET.parse(xml_file)
size = tree.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in tree.findall('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls) + 1 # 类别索引从1开始,类别0是背景
bbox = obj.find('bndbox')
b = (float(bbox.find('xmin').text),
float(bbox.find('xmax').text),
float(bbox.find('ymin').text),
float(bbox.find('ymax').text))
bb = convert((w, h), b)
save_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
save_file.close()
if __name__ == "__main__":
# 数据集根目录地址
data_root = "/Users/enzo/Documents/GitHub/dataset/VOCdevkit/VOC2007"
# 标注文件地址
annotation = os.path.join(data_root, 'Annotations')
# yolo格式的文件保存地址
save_root = './labels'
if not os.path.exists(save_root):
os.makedirs(save_root)
for train_val in ["train", "val"]:
if not os.path.exists(os.path.join(save_root, train_val)):
os.makedirs(os.path.join(save_root, train_val))
# 数据集划分的 .txt 文件地址
txt_file = os.path.join(data_root, 'ImageSets/Main', train_val+'.txt')
with open(txt_file, 'r') as f:
lines = f.readlines()
file_names = [line.strip() for line in lines if len(line.strip())>0]
for file_name in file_names:
xml_file = os.path.join(annotation, file_name+'.xml')
save_file = os.path.join(save_root, train_val, file_name+'.txt')
convert_annotation(xml_file, save_file)
10、Reference
https://arleyzhang.github.io/articles/1dc20586/