文章目录
- simpleNet
- 0. 背景
- 1. 主要贡献
- 2. 网络
- 3. 方法细节
- 3.1 Feature Extractor 特征提取器
- 3.2 Features Adaptor特征适配器
- 3.3 Anomalous Feature Generator 异常特征生成器
- 3.4 Discriminator 鉴别器
- 3.5 Loss function and Training 损失方程和训练
- 3.6 Inference and Scoring function 推理和评价函数
- 4. 实验结果
simpleNet
<论文链接>
<代码链接>
0. 背景
- 异常检测和定位(样本少,样本差异大)
- 无监督(训练只是用正常样本)
- 重建(逐像素重建误差作为异常定位分数)
- “泛化” 错误检测
- 合成(在无异常图像上生成合成异常训练正常异常决策边界)
- 合成数据特征偏离正常特征(负样本) 松散边界 模糊缺陷
- 嵌入(广义正态特征 多元高斯分布 归一化流和内存库)
- 比较输入特征与学习的分布或记忆的特征来进行比较来检测异常
- 重建(逐像素重建误差作为异常定位分数)
- 无监督(训练只是用正常样本)
1. 主要贡献
- simpleNet 异常检测和定位网络
- 合成和嵌入
- 特征适配器 产生面向目标的特征
- 不是直接使用预训练特征 (减少邻域偏差)
- 在特征空间施加噪声生成异常特征
- 不是直接合成图像上异常
- 训练简单鉴别器简化异常检测(计算效率)
- SimpleNet
- 主干 WideResnet50
- 准确率、效率、通用性
2. 网络
- 组成
- 特征提取器
- 特征适配器
- 异常特征生成器
- 仅在训练期间完成,在推断时被移除
- 鉴别器
- 推理
- 单流方式
- 训练
- 正常样本->
特征提取器
->局部特征->特征适配器
->预训练特征适配到目标域->在自适应特征中添加高斯噪声合成异常特征
->训练(自适应特征|正样本 异常特征|负样本)最终鉴别器
- 正常样本->
3. 方法细节
3.1 Feature Extractor 特征提取器
- 获取局部特征
- 训练集 X t r a i n X_{train} Xtrain 测试集 X t e s t X_{test} Xtest
-
X
t
r
a
i
n
U
X
t
e
s
t
,
x
i
∈
R
H
×
W
×
3
X_{train} U X_{test} ,x_i\in R^{H×W×3}
XtrainUXtest,xi∈RH×W×3
- 预训练网络从不同层次提取特征
- 定义L子集 层次结构的索引
-
ϕ
l
,
i
∼
ϕ
l
(
x
i
)
∈
R
H
i
×
W
i
×
C
i
\phi^{l,i} \sim \phi^{l}(x_i)\in R^{H_i×W_i×C_i}
ϕl,i∼ϕl(xi)∈RHi×Wi×Ci
- H i × W i × C i H_i×W_i×C_i Hi×Wi×Ci 特征图 高 宽 通道大小
- 位置(h,w)处条目,
邻域
定义 N p h , w N_p^{h,w} Nph,w - 使用
聚合
函数 f a g g f_agg fagg聚合邻域 N p h , w N_p^{h,w} Nph,w内特征(自适应池化)->局部特征 Z h , w l , i Z_{h,w}^{l,i} Zh,wl,i - 组合不同层次特征
Z
h
,
w
l
,
i
Z_{h,w}^{l,i}
Zh,wl,i->特征图被线性调整为相同大小(H_0,W_0)(最大大小)->按通道连接
特征图
o i ∈ R H 0 × W 0 × C o^i \in R^{H_0×W_0×C} oi∈RH0×W0×C
- 预训练网络从不同层次提取特征
3.2 Features Adaptor特征适配器
- 工业图像与骨干预训练中使用的数据集具有不同分布
- 特征适配器G (将训练特征转移到目标域)
- 将局部特征投影到自适应特征
- 由简单神经块组成
- 全连接层/多层感知器(MLP)
3.3 Anomalous Feature Generator 异常特征生成器
- 训练鉴别器估计样本正常可能性,在正常样本上添加简单噪声(高斯噪声)
- 对噪声向量进行采样,每个条目遵循高斯分布
3.4 Discriminator 鉴别器
- 正态性计分器 直接估计每个位置(h,w)的正态性
- 训练期 正负样本都被输入到鉴别器
- 分类器 双层MLP结构
3.5 Loss function and Training 损失方程和训练
- 截断L1损失(th防止过拟合的截断项)
- 使用的交叉熵损失对所提出的截断L1损失函数进行实验评估
3.6 Inference and Scoring function 推理和评价函数
- 异常特征生成器在推理时被丢弃
- 输入->特征提取器->特征适配器->特征->鉴别器->异常分数
- 异常定位 异常图定义
- 对 S A L ( x i ) S_AL(x_i) SAL(xi)进行插值->输入样本空间分辨率
- 对光滑边界进行高斯滤波
- 异常区域最具响应性的点,将异常图最大得分作为每个图像的异常检测得分
4. 实验结果
- 错误率减少;速度更快