小样本目标检测综述__刘浩宇(导航与控制2021)阅读

0、引言

早期采用了大量标注样本回归候选框的位置，但后来目标集和训练集数据分布不同导致检测效果下降。

对于没有大量样本支持的小样本检测应用就需要使用先验知识来弥补样本的不足。

可以分为三类：

• 数据域

  • 通过先验知识来做数据增强，以弥补样本不足的问题，解决模型不收敛问题。

• 模型域

  • 通过先验知识来限制模型复杂度，降低假设空间的大小，使得模型收敛加快。

• 算法域

  • 通过先验知识来提供一个更快捷的搜索策略。

1、小样本目标检测的数学模型

1.1目标检测应用的数学模型

1.2目标检测应用的误差实理际论

数学理论解释、定义这个任务部分！看原论文。

２ 数据域的解决方案

2.1转化原有数据集 $D_{train}$

• 图像增强：翻转、裁剪、缩放、旋转、亮度变换、色调和表合度变换
• 图像转换：通过类似应用的先验知识， 将原有数据集扩增为新的数据集， 引入新的特征信息， 但类似应用的先验知识往往是不容易得到的。

2.2迁移其他数据集

３ 模型域的解决方案

目标检测所采用的模型决定了模型空间Ｐ的大小， 复杂度过高的模型不易于模型收敛到最优解， 复杂度低的模型最优解又距离真实模型太远。

3.1多任务训练网络

多任务学习网络同时训练了同一检测网络中的不同任务，在目标检测的应用于检测的网络参数可以共享给分类和定位任务。多任务学习将目标检测的定位和分类参数通过一定的方式共享，降低了需要训练优化的参数量，可以同时提升分类和检测任务的效果。

但是在小样本检测下，不引入其他监督信息时，共享特征仍无法大幅改善泛化能力不足的问题。

3.2增量学习网络

增量学习是指一个学习系统能不断地从新样本中学习新的知识，并能保存大部分以学习到的知识。

具有以下特点：

• 可以从样本以外的环境中获得新知识
• 在更新只是过程中会保留大部分以学习到的知识
• 训练的过程不保留样本
• 学习系统没有关于整个训练样本的先验知识

增量学习需要注意的是，如何处理新知识和旧知识之间的关系，如何避免灾难性遗忘。

3.3迁移学习

域适应被广泛的应用到目标检测应用中。当给定的已标注的训练样本不足时，可以将其他类似域的先验知识转移到当前应用中，以缓解目标域同样本不足导致效果差的问题。

域适应的方法通常用来提升目标域上的定位效果

3.4 深度度量学习

深度度量学习通过衡量映射在某一空间上的样本之间的距离来学习样本的相似度与区分度

通常被集合在目标检测器的尾端做为分类起使用。其方法对于分类效果有所提升，但是对于定位任务效果提升不明显。

４ 算法域的解决方案

4.2元学习

元学习的本质是要寻找一个对于所有任务都较优的模型参数，在更新参数时，元学习结合了所有任务在测试集上的损失作为先验知识来指导梯度更新。

5 文献

• 增量学习

  • [31] 检测器ONCE，将CentreNet分解为通用类别和特定类别的组件，以支持增量小样本学习。任何新类别在任何时候都能通过小量标注样本注册，并能够始终维度基础类别和已注册的新类别。[Incremental few-shot object detection-2020]
  • [33]端到端增量式目标检测系统，采用知识蒸馏法对基于径向基元的目标检测系统进行优化，引入了多网络自适应精馏。微调已完成新任务时，保留了旧类别的知识。[incremetal learning for object detectors based on Faster RCNN-2020]

• 迁移学习

  • [38]由俩层自适应模块组成的目标检测结果FAFRCNN，配对过程将样本分成两组， 第一组由目标域的样本和源域的样本组成，第二组由源域的样本组成， 有效地扩充了有限的目标域数据[Few-shot adaptive Faster R-CNN-2019]
  • [27]通过领域竞争损失来对抗领域转移，还提出了一个多层域鉴别器， 该鉴别器采用了最新的域对抗性学习方法进行域对齐。[Label efficient learning of transferable representations domains and tasks-2017]
  • [39]] 提出了一种新的用于语义分割的小样本监督域适应框架， 其主要思想是利用对抗性 学 习 来 对 齐 从 网 络 中 提 取 的 特 征。 同 时，为了解决源数据样本稀缺的问题， 该方案还提出了一种使用源数据和目标数据创建对的配对方法。[Few-shot domain adaptation for semantic segmentation-2019]
  • [41]设计了 一 个 灵 活 的 ＬＳＴＤ深度架构来缓解小样本检测中的困难， 并提出了一种基于源域和目标域的转移指数(ＴＫ) 和背景抑制 ( ＢＤ ) 的 正 则 化 方 法[a low-shot transfer detector for object detection-2018]

• 深度度量学习

  • [42]提出了一种同时学习主干网络参数、 嵌入空间和各节点的多模态分布的深度度量学习算法， 度量网络结构作为分类头合并到一个标准的目标检测模型中， 证明了其方法在小样本目标检测问题上的有效性[representative-based metric learning for classification and one shot object detection-2018]
  • [43]在小样本的前提下提出了一种新的实例级嵌入适应机制， 旨在快速适应嵌入的深度特征， 以提高其识别新类别的泛化能力，该方案设计了一个关注自适应模块， 尽可能地提取查询实例及其对应的类中心[Instance-Level embedding adaptation for few-shot learning-2019]
  • [27]使用基于度量学习的方法来概括领域转移中嵌入到新任务的过程，在标记目标之间利用基于度量学习的交叉上损失来稳定和改善学习。[Label efficient learning of transferable representations domains and tasks-2017]

• 元学习

  • [48] Meta R-CNN采用了基于 ＲｏＩ 特性的元学习， 并通过 MaskRCNN 改进了小样本的目标分割能力[Meta RCNN: towards fast adaptation for few-shot object detection with Meta learing-2019]
  • [37]充分利用了基类的标记， 并使用元特征学习器和权重调整模块， 实现了快速适应新的类。[Few-shot object detection via feature rewighting-2019]
  • [46]认为元学习是目标跟踪的一种特例[Tracking by instance detection: a Meta-learning approach-2020]
  • [31]加入了元学习类别生成器[Incremental few-shot object detection-2020]