simpleNet_simplenet代码解读

simpleNet

<论文链接>
<代码链接>

0. 背景

• 异常检测和定位（样本少，样本差异大）
  • 无监督（训练只是用正常样本）
    • 重建（逐像素重建误差作为异常定位分数）
      • “泛化” 错误检测
    • 合成（在无异常图像上生成合成异常训练正常异常决策边界）
      • 合成数据特征偏离正常特征（负样本） 松散边界 模糊缺陷
    • 嵌入（广义正态特征 多元高斯分布 归一化流和内存库）
      • 比较输入特征与学习的分布或记忆的特征来进行比较来检测异常

1. 主要贡献

• simpleNet 异常检测和定位网络
  • 合成和嵌入
  • 特征适配器 产生面向目标的特征
    • 不是直接使用预训练特征 （减少邻域偏差）
  • 在特征空间施加噪声生成异常特征
    • 不是直接合成图像上异常
  • 训练简单鉴别器简化异常检测（计算效率）
• SimpleNet
  • 主干 WideResnet50
  • 准确率、效率、通用性

2. 网络

• 组成
  • 特征提取器
  • 特征适配器
  • 异常特征生成器
    • 仅在训练期间完成,在推断时被移除
  • 鉴别器
• 推理
  • 单流方式
• 训练
  • 正常样本->特征提取器->局部特征->特征适配器->预训练特征适配到目标域->在自适应特征中添加高斯噪声合成异常特征->训练（自适应特征|正样本 异常特征|负样本）最终鉴别器

3. 方法细节

3.1 Feature Extractor 特征提取器

• 获取局部特征
• 训练集$X_{train}$ 测试集$X_{test}$
• $X_{train}U{X}_{test},x_i\in R^{H\times W\times 3}$
  • 预训练网络从不同层次提取特征
    • 定义L子集 层次结构的索引
    • ${\varphi }^{l,i}\sim {\varphi }^l(x_i)\in R^{H_i\times W_i\times C_i}$
      • $H_i\times W_i\times C_i$ 特征图 高 宽 通道大小
    • 位置(h,w)处条目，邻域定义$N_p^{h,w}$
    • 使用聚合函数$f_{a}gg$聚合邻域$N_p^{h,w}$内特征（自适应池化）->局部特征$Z_{h,w}^{l,i}$
    • 组合不同层次特征$Z_{h,w}^{l,i}$->特征图被线性调整为相同大小(H_0,W_0)(最大大小)->按通道连接 特征图 $o^i\in R^{H_0\times W_0\times C}$

3.2 Features Adaptor特征适配器

• 工业图像与骨干预训练中使用的数据集具有不同分布
• 特征适配器G （将训练特征转移到目标域）
  • 将局部特征投影到自适应特征
  • 由简单神经块组成
    • 全连接层/多层感知器（MLP）

3.3 Anomalous Feature Generator 异常特征生成器

• 训练鉴别器估计样本正常可能性，在正常样本上添加简单噪声（高斯噪声）
• 对噪声向量进行采样，每个条目遵循高斯分布

3.4 Discriminator 鉴别器

• 正态性计分器 直接估计每个位置（h,w）的正态性
• 训练期 正负样本都被输入到鉴别器
• 分类器 双层MLP结构

3.5 Loss function and Training 损失方程和训练

• 截断L1损失（th防止过拟合的截断项）
• 使用的交叉熵损失对所提出的截断L1损失函数进行实验评估

3.6 Inference and Scoring function 推理和评价函数

• 异常特征生成器在推理时被丢弃
• 输入->特征提取器->特征适配器->特征->鉴别器->异常分数
• 异常定位 异常图定义
  • 对$S_{A}L(x_i)$进行插值->输入样本空间分辨率
  • 对光滑边界进行高斯滤波
  • 异常区域最具响应性的点，将异常图最大得分作为每个图像的异常检测得分

4. 实验结果

• 错误率减少；速度更快