深 度 学 习 之 目 标 检 测 通 用 技 巧 深度学习之目标检测通用技巧 深度学习之目标检测通用技巧
一 数据增强
1.离线增强
离线增强:对数据集进行处理,数据的数目会变成增强因子×原数据集的数目
2.在线增强
对输入模型的batch的数据进行增强,如旋转、平移、翻折等相应的变化,由于有些数据集不能接受线性级别的增长,这种方法长用于大的数据集,很多机器学习框架已经支持了这种数据增强方式,并且可以使用PU 优化计算。
1.空间几何变换:翻换…
2.像素颜色变换类:
3.HSV对比度变换
4.RGB颜色扰动
5.随机擦除
6.超像素法
7.边界检测
8.锐化与浮雕
3.mosaic
二 训练策略
1.warmup
训练初期由于离目标较远,一般需要选择大的学习率,但是使用过大的学习率容易导致不稳定性。
所以可以做一个学习率热身阶段,在开始的时候先使用一个较小的学习率,然后当训练过程稳定的时候再把学习率调回去
2.学习率衰减策略
1.指数衰减
2.固定步长衰减
3.多步长衰减
4.余弦退火衰减
5.自适应学习率
3.Label smoothing 标签平滑
one-hot带来的问题:对干损失函数,我们需要用预测概率去拟合真实概率,而拟合one-hot
的真实概率函数会带来两个问题:
1)无法保证模型的泛化能力,容易造成过拟合;
2)全概率和0概率鼓励所属类别和其他类别之间的差距尽可能加大,而由梯度有界可知,这种情况很难adapt。会造成模型过于相信预测的类别。
所以产生了Label smoothing,增加了模型的泛化能力,一定程度上防止过拟合。
4.K-Fold交风验证
三 推断策略
1、NMS(非极大值抑制)
同一个物体可能有好几个框,我们的目标是一个物体只须保留一个最优的框:于是我们就要用到非极大值抑制,来抑制那些冗余的框:抑制的过程是一个迭代-遍历-消除的过程。
2、soft nms
不要粗鲁地删除所有IOU大于阈值的框,而是降低其置信度
3.DIoU NMS
在nms过程中采用DIoU的计算方式替换了IoU,由于DIoU的计算考虑到了两框中心点位置的信息,故使用DIoU进行评判的nms效果更符合实际,效果更优。