来源:投稿 作者:橡皮
编辑:学姐
论文链接:https://arxiv.org/pdf/2303.15140.pdf
代码链接:https://github.com/DonaldRR/SimpleNet
0.背景:
图像异常检测和定位任务旨在识别异常图像并定位异常子区域。检测各种感兴趣的异常现象的技术在工业检测中有着广泛的应用。在工业场景中,异常检测和定位尤其困难,因为异常样本很少,异常可能从细微的变化(如薄划痕)到大的结构缺陷(如缺失零件)不等。
目前的方法主要以无监督的方式解决这个问题,即在训练过程中只使用正常样本。使用基于重建的方法、基于合成的方法和基于嵌入的方法是解决无监督异常检测问题的三个主要趋势。
基于重建的方法,假设仅用正常数据训练的深度网络不能准确地重建异常区域。将逐像素重建误差作为用于异常定位的异常分数。然而,这一假设可能并不总是成立的,有时网络可以很好地“泛化”,从而也可以很好的重建异常输入,从而导致错误检测。
基于合成的方法通过对在无异常图像上生成的合成异常进行训练来估计正常和异常之间的决策边界。然而,合成的图像不够逼真。来自合成数据的特征可能会偏离正常特征很远,使用这种负样本进行训练可能会导致有松散边界的正常特征空间,这意味着模糊的缺陷可能会被包括在分布特征空间中。
最近,基于嵌入的方法实现了最先进的性能。这些方法使用ImageNet预训练的CNN来提取广义正态特征。然后采用多元高斯分布、归一化流和内存库等统计算法嵌入正态特征分布。通过将输入特征与学习的分布或记忆的特征进行比较来检测异常。然而,工业图像通常具有与ImageNet不同的分布。直接使用这些有偏见的特征可能会导致失配问题。
1.主要贡献:
提出了一种新的异常检测和定位网络,称为 SimpleNet 。SimpleNet 利用了基于合成和基于嵌入的方式,并进行了一些改进。首先,我们建议使用特征适配器来产生面向目标的特征,而不是直接使用预训练的特征,这可以减少领域偏差。
提出通过在特征空间中对正常特征施加噪声来生成异常特征,而不是直接合成图像上的异常。通过训练一个简单的鉴别器来简化异常检测过程,该鉴别器比上述基于嵌入的方法所采用的复杂统计算法具有更高的计算效率。
SimpleNet 基于广泛使用的 WideResnet50 主干,在MVTec AD上以77帧/秒的速度运行时,实现了99.6%的AUROC,在准确性和效率方面都超过了以前发表的最佳异常检测方法。进一步将 SimpleNet 引入到一类新颖性检测任务中,以显示其通用性。这些优势使 SimpleNet 弥合了学术研究和工业应用之间的差距。
2.网络介绍:SimpleNet
SimpleNet 由一个特征提取器、一个特征适配器、一个异常特征生成器和一个鉴别器组成。异常特征生成器仅在训练期间使用,因此SimpleNet在推理时遵循单流方式。在训练阶段,将正常样本输入到预先训练的特征提取器中,以获得局部特征。然后,利用特征适配器将预先训练的特征适配到目标域中。通过将高斯噪声添加到自适应特征中来合成异常特征。自适应特征和异常特征分别用作正样本和负样本来训练最终的鉴别器。异常特征生成器在推断时被移除。
3.方法细节:
Feature Extractor 特征提取器
特征提取器用来获取局部特征,如同 [Patchcore] 方法。我们将流程重新制定如下:
Feature Adaptor 特征适配器
由于工业图像通常与骨干预训练中使用的数据集具有不同的分布,我们采用特征适配器将训练特征转移到目标域。特征适配器将局部特征投影到自适应特征,w,作为:
特征适配器可以由简单的神经块组成,例如全连接层或多层感知器(MLP)。我们通过实验发现,单个全连接层可以产生良好的性能。
Anomalous Feature Generator 异常特征生成器
下图说明了异常特征对四类MVTec AD的影响。可以看到,沿着适应特征的每个维度的标准偏差往往是一致的。因此,当区分异常特征和正常特征时,特征空间往往是紧凑的。
Discriminator 鉴别器
Loss function and Training 损失方程和训练
一个简单的截断L1损失可推导为:
和是防止过拟合的截断项。 默认情况下,它们设置为0.5和-0.5。训练目标是:
我们将在实验部分用广泛使用的交叉熵损失对所提出的截断L1损失函数进行实验评估。训练过程的伪代码如算法1所示:
Inference and Scoring function 推理和评价函数
异常特征生成器在推理时被丢弃。
推理过程中用于异常定位的异常图定义为:
然后对进行插值,以获得输入样本的空间分辨率,并对光滑边界进行σ=4的高斯滤波。由于对于任何大小的异常区域都存在最具响应性的点,因此将异常图的最大得分作为每个图像的异常检测得分。
4.实验结果:
关注下方《学姐带你玩AI》🚀🚀🚀
回复“异常检测”获取全部论文PDF合集
码字不易,欢迎大家点赞评论收藏!