从异常训练数据中自主监督异常检测,通过代潜伏令牌掩盖.
Ashay Patel1, Petru-Daniel Tudosiu1, Walter H L Pinaya1
1King's College London.
概括
本研究介绍了Iterative Latent Token Masking,这是一种用于异常检测的新型自我监督框架. 它可以在具有异常图像的数据集上训练模型,优于计算机视觉和医学成像中的现有方法.
科学领域:
- 计算机视觉 计算机视觉
- 机器学习 机器学习
- 医学成像分析 医学成像分析
背景情况:
- 异常检测在各种领域至关重要,包括医学成像和工业质量控制.
- 当训练数据中存在异常时,现有的无监督方法通常会失败,这是医学成像中的一个常见问题.
- 当前最先进的模型在自主监督培训期间,即使是很小比例的异常数据也很难处理.
研究的目的:
- 提出一种自我监督的异常检测框架,能够对具有异常图像的数据集进行训练.
- 克服当前无监督和自我监督的异常检测方法的局限性,当面对受污染的训练数据时.
- 适应强大的统计学原理,特别是M估计器,用于反复模型适应异常检测.
主要方法:
- 引入了代潜伏令牌掩盖,这是一个自我监督的框架,利用变压器和矢量量化变量自动编码器.
- 利用变形金刚的令牌掩盖功能,在训练集中代过异常令牌.
- 适应的代模型与来自强大的统计数据的M估计器相匹配,用于无监督异常检测.
主要成果:
- 在全身PET数据和MVTec数据集上表现出高于最先进的模型的性能.
- 展示了框架在训练集中不同级别异常数据的有效性.
- 强调了当前自我监督,自我训练和无监督模型的局限性,这些模型具有异常的训练数据.
结论:
- 代潜伏令牌掩盖有效地解决了在受污染的数据集上训练异常检测模型的挑战.
- 拟议的方法为无监督异常检测提供了一个强大的替代方案,特别是在不可避免异常的场景中.
- 这种方法显示出在医学成像和计算机视觉应用中推进异常检测的巨大潜力.


