自我监督学习（SSL）已成为一种有希望的替代方法，可以为现实世界任务创建监督信号，从而避免了仔细的标签成本。 SSL对于无监督的问题（例如异常检测（AD））特别有吸引力，在该问题中，标记的异常为确保，难以模拟甚至不存在的异常。基于SSL的AD（SSAD）已使用了大量的增强功能目录，并且最近的工作观察到，增强类型对性能有重大影响。这项工作是由这些工作的动机，将SSAD置于更大的镜头下，并通过对许多测试台进行广泛的实验仔细研究了数据增强在AD中的作用。我们的主要发现是，自我统治是另一个迄今为止的模型超参数，应仔细选择数据中真实异常的本质。也就是说，增强和基础异常机制之间的一致性是SSAD成功的关键，并且在缺乏SSL的情况下，SSL甚至会损害（！）检测性能。除了提出另一种SSAD方法外，我们的研究为对该成长中的地区提供了更好的了解，并为未来的研究提供了新的方向。

We aim at constructing a high performance model for defect detection that detects unknown anomalous patterns of an image without anomalous data. To this end, we propose a two-stage framework for building anomaly detectors using normal training data only. We first learn self-supervised deep representations and then build a generative one-class classifier on learned representations. We learn representations by classifying normal data from the CutPaste, a simple data augmentation strategy that cuts an image patch and pastes at a random location of a large image. Our empirical study on MVTec anomaly detection dataset demonstrates the proposed algorithm is general to be able to detect various types of real-world defects. We bring the improvement upon previous arts by 3.1 AUCs when learning representations from scratch. By transfer learning on pretrained representations on ImageNet, we achieve a new state-of-theart 96.6 AUC. Lastly, we extend the framework to learn and extract representations from patches to allow localizing defective areas without annotations during training.

机器学习模型通常会遇到与训练分布不同的样本。无法识别分布（OOD）样本，因此将该样本分配给课堂标签会显着损害模​​型的可靠性。由于其对在开放世界中的安全部署模型的重要性，该问题引起了重大关注。由于对所有可能的未知分布进行建模的棘手性，检测OOD样品是具有挑战性的。迄今为止，一些研究领域解决了检测陌生样本的问题，包括异常检测，新颖性检测，一级学习，开放式识别识别和分布外检测。尽管有相似和共同的概念，但分别分布，开放式检测和异常检测已被独立研究。因此，这些研究途径尚未交叉授粉，创造了研究障碍。尽管某些调查打算概述这些方法，但它们似乎仅关注特定领域，而无需检查不同领域之间的关系。这项调查旨在在确定其共同点的同时，对各个领域的众多著名作品进行跨域和全面的审查。研究人员可以从不同领域的研究进展概述中受益，并协同发展未来的方法。此外，据我们所知，虽然进行异常检测或单级学习进行了调查，但没有关于分布外检测的全面或最新的调查，我们的调查可广泛涵盖。最后，有了统一的跨域视角，我们讨论并阐明了未来的研究线，打算将这些领域更加紧密地融为一体。

无监督异常检测的本质是学习正常样品的紧凑分布并将异常值视为测试异常。同时，现实世界中的异常通常在高分辨率图像中尤其是工业应用中微妙而细粒度。为此，我们为无监督的异常检测和定位提出了一个新的框架。我们的方法旨在通过粗到1的比对过程从正常图像中学习致密和紧凑的分布。粗对齐阶段标准化了对象在图像和特征级别中的像素位置。然后，细胞对齐阶段密集地最大程度地提高了批处理中所有相应位置之间特征的相似性。为了仅使用正常图像来促进学习，我们提出了一个新的借口任务，称为“对齐阶段”，称为非对抗性学习。非对比度学习提取鲁棒和区分正常图像表示，而无需对异常样本进行假设，因此它使我们的模型能够推广到各种异常场景。对MVTEC AD和Bentech AD的两个典型工业数据集进行了广泛的实验表明，我们的框架有效地检测各种现实世界缺陷，并在工业无监督的异常检测中实现了新的最新技术。

异常检测（AD），将异常与正常数据分开，从安全性到医疗保健都有许多范围内的应用程序。尽管大多数以前的作品都被证明对具有完全或部分标记数据的案例有效，但由于标记对此任务特别乏味，因此设置在实践中较不常见。在本文中，我们专注于完全无监督的AD，其中包含正常样本和异常样本的整个培训数据集未标记。为了有效地解决这个问题，我们建议通过使用数据改进过程来提高接受自我监督表示的一类分类的鲁棒性。我们提出的数据完善方法基于单级分类器（OCCS）的集合，每个分类器均经过培训的训练数据子集。随着数据改进的改进，通过自我监督学习学到的表示的表示。我们在具有图像和表格数据的各种无监督的AD任务上演示了我们的方法。 CIFAR-10图像数据的异常比率为10％ /甲状腺表格数据的2.5％异常比率，该方法的表现优于最先进的单级分类器，高于6.3 AUC和12.5平均精度 / 22.9 F1评分。 。

无监督的异常检测（UAD）只需要正常（健康）训练图像是实现医学图像分析（MIA）应用的重要工具，例如疾病筛查，因为通常难以收集和注释异常（或疾病）MIA中的图像。然而，严重依赖于正常图像可能导致模型训练过度填写正常类。自我监督的预训练是对这个问题的有效解决方案。遗憾的是，从计算机视觉调整的当前自我监督方法是MIA应用的次优，因为它们不探索设计借口任务或培训过程的MIA域知识。在本文中，我们提出了一种为MIA应用设计的UAD的新的自我监督的预训练方法，通过对比学习（MSACL）命名为多级强大增强。 MSACL基于新颖的优化，以对比正常和多种合成的异常图像，每个类在欧几里德距离和余弦相似度方面强制形成紧密和密集的聚类，其中通过模拟变化数量的病变形成异常图像在正常图像中的不同尺寸和外观。在实验中，我们表明，我们的MSACL预培训使用结肠镜检查，眼底筛选和Covid-19胸部X射线数据集来提高SOTA UAD方法的准确性。

当前，借助监督学习方法，基于深度学习的视觉检查已取得了非常成功的成功。但是，在实际的工业场景中，缺陷样本的稀缺性，注释的成本以及缺乏缺陷的先验知识可能会使基于监督的方法无效。近年来，无监督的异常定位算法已在工业检查任务中广泛使用。本文旨在通过深入学习在工业图像中无视无视的异常定位中的最新成就来帮助该领域的研究人员。该调查回顾了120多个重要出版物，其中涵盖了异常定位的各个方面，主要涵盖了所审查方法的各种概念，挑战，分类法，基准数据集和定量性能比较。在审查迄今为止的成就时，本文提供了一些未来研究方向的详细预测和分析。这篇综述为对工业异常本地化感兴趣的研究人员提供了详细的技术信息，并希望将其应用于其他领域的异常本质。

识别异常是指检测不像训练数据分布的样本。许多生成模型已被用于寻找异常，以及其中，基于生成的对抗网络（GaN）的方法目前非常受欢迎。 GANS主要依靠这些模型的丰富上下文信息来识别实际培训分布。在这一类比之后，我们建议了基于GANS -A组合的新型无人监督模型和甘甘。此外，引入了一种新的评分功能，以靶向异常，其中鉴别器的内部表示和发电机的视觉表示的线性组合加上自动化器的编码表示，共同定义所提出的异常得分。该模型进一步评估了诸如SVHN，CIFAR10和MNIST之类的基准数据集以及白血病图像的公共医疗数据集。在所有实验中，我们的模型表现出现有的对应物，同时略微改善推理时间。

我们考虑为移动机器人构建视觉异常检测系统的问题。标准异常检测模型是使用仅由非异常数据组成的大型数据集训练的。但是，在机器人技术应用中，通常可以使用（可能很少）的异常示例。我们解决了利用这些数据以通过与Real-NVP损失共同使辅助外离群损失损失共同使实际NVP异常检测模型的性能提高性能的问题。我们在新的数据集（作为补充材料）上进行定量实验，该数据集在室内巡逻方案中设计为异常检测。在不连接测试集中，我们的方法优于替代方案，并表明即使少数异常框架也可以实现重大的性能改进。

深度异常检测已被证明是几个领域的有效和强大的方法。自我监督学习的引入极大地帮助了许多方法，包括异常检测，其中使用简单的几何变换识别任务。然而，由于它们缺乏更精细的特征，因此这些方法在细粒度问题上表现不佳，并且通常高度依赖于异常类型。在本文中，我们探讨了使用借口任务的自我监督异常检测的每个步骤。首先，我们介绍了专注于不同视觉线索的新型鉴别和生成任务。一部分拼图拼图任务侧重于结构提示，而在每个件上使用色调旋转识别进行比色法，并且执行部分重新染色任务。为了使重新着色任务更关注对象而不是在后台上关注，我们建议包括图像边界的上下文颜色信息。然后，我们介绍了一个新的分配检测功能，并与其他分配检测方法相比，突出了其更好的稳定性。随之而来，我们还试验不同的分数融合功能。最后，我们在具有经典对象识别的对象异常组成的综合异常检测协议上评估我们的方法，用细粒度分类和面部反欺骗数据集的局部分类和局部异常的样式异常。我们的模型可以更准确地学习使用这些自我监督任务的高度辨别功能。它优于最先进的最先进的相对误差改善对象异常，40％的面对反欺骗问题。

新奇检测是识别不属于目标类分布的样本的任务。在培训期间，缺乏新颖的课程，防止使用传统分类方法。深度自动化器已被广泛用作许多无监督的新奇检测方法的基础。特别地，上下文自动码器在新颖的检测任务中已经成功了，因为他们通过从随机屏蔽的图像重建原始图像来学习的更有效的陈述。然而，上下文AutoEncoders的显着缺点是随机屏蔽不能一致地涵盖输入图像的重要结构，导致次优表示 - 特别是对于新颖性检测任务。在本文中，为了优化输入掩蔽，我们设计了由两个竞争网络，掩模模块和重建器组成的框架。掩码模块是一个卷积的AutoEncoder，用于生成涵盖最重要的图像的最佳掩码。或者，重建器是卷积编码器解码器，其旨在从屏蔽图像重建未受带的图像。网络训练以侵略的方式训练，其中掩模模块生成应用于给予重构的图像的掩码。以这种方式，掩码模块寻求最大化重建错误的重建错误最小化。当应用于新颖性检测时，与上下文自动置换器相比，所提出的方法学习语义上更丰富的表示，并通过更新的屏蔽增强了在测试时间的新颖性检测。 MNIST和CIFAR-10图像数据集上的新奇检测实验证明了所提出的方法对尖端方法的优越性。在用于新颖性检测的UCSD视频数据集的进一步实验中，所提出的方法实现了最先进的结果。

Deep anomaly detection methods learn representations that separate between normal and anomalous images. Although self-supervised representation learning is commonly used, small dataset sizes limit its effectiveness. It was previously shown that utilizing external, generic datasets (e.g. ImageNet classification) can significantly improve anomaly detection performance. One approach is outlier exposure, which fails when the external datasets do not resemble the anomalies. We take the approach of transferring representations pre-trained on external datasets for anomaly detection. Anomaly detection performance can be significantly improved by fine-tuning the pre-trained representations on the normal training images. In this paper, we first demonstrate and analyze that contrastive learning, the most popular self-supervised learning paradigm cannot be naively applied to pre-trained features. The reason is that pre-trained feature initialization causes poor conditioning for standard contrastive objectives, resulting in bad optimization dynamics. Based on our analysis, we provide a modified contrastive objective, the Mean-Shifted Contrastive Loss. Our method is highly effective and achieves a new state-of-the-art anomaly detection performance including $98.6\%$ ROC-AUC on the CIFAR-10 dataset.

We consider the problem of anomaly detection in images, and present a new detection technique. Given a sample of images, all known to belong to a "normal" class (e.g., dogs), we show how to train a deep neural model that can detect out-of-distribution images (i.e., non-dog objects). The main idea behind our scheme is to train a multi-class model to discriminate between dozens of geometric transformations applied on all the given images. The auxiliary expertise learned by the model generates feature detectors that effectively identify, at test time, anomalous images based on the softmax activation statistics of the model when applied on transformed images. We present extensive experiments using the proposed detector, which indicate that our technique consistently improves all known algorithms by a wide margin.1 Unless otherwise mentioned, the use of the adjective "normal" is unrelated to the Gaussian distribution.32nd Conference on Neural Information Processing Systems (NIPS 2018),

异常检测旨在识别数据点，这些数据点显示了未标记数据集中大多数数据的系统偏差。一个普遍的假设是，可以使用干净的培训数据（没有异常），这在实践中通常会违反。我们提出了一种在存在与广泛模型兼容的未标记异常的情况下训练异常检测器的策略。这个想法是在更新模型参数时将二进制标签共同推断为每个基准（正常与异常）。受到异常暴露的启发（Hendrycks等人，2018年），该暴露考虑合成创建，标记为异常，我们因此使用了两个共享参数的损失的组合：一个用于正常参数，一个用于异常数据。然后，我们对参数和最可能（潜在）标签进行块坐标更新。我们在三个图像数据集，30个表格数据集和视频异常检测基准上使用几个主链模型进行了实验，对基线显示了一致且显着的改进。

深度卷积自动编码器为学习非线性维度降低的方式提供了有效的工具。最近，它们已用于视觉域中的异常检测任务。通过使用无异常示例为重建误差进行优化，普遍的信念是，训练有素的网络在测试阶段很难重建异常部分。这通常是通过控制网络的容量来通过减小瓶颈层的大小或在其激活上执行稀疏性约束来完成的。但是，这些技术都没有明确惩罚重建异常信号，通常会导致检测不佳。我们通过调整自我监督的学习制度来解决这个问题，该系统允许在训练过程中使用判别性信息，同时正规化模型通过修改后的重建错误将重点放在数据歧管上，从而导致准确的检测。与相关方法不同，训练和预测过程中提出的方法的推断非常有效地处理整个输入图像。我们对MVTEC异常检测数据集的实验表明该方法的高识别和定位性能。特别是，在纹理 - 材料上，我们的方法始终以大幅度的边距优于最近的一系列最近的异常检测方法。

大量标记的医学图像对于准确检测异常是必不可少的，但是手动注释是劳动密集型且耗时的。自我监督学习（SSL）是一种培训方法，可以在没有手动注释的情况下学习特定于数据的功能。在医学图像异常检测中已采用了几种基于SSL的模型。这些SSL方法有效地学习了几个特定特定图像的表示形式，例如自然和工业产品图像。但是，由于需要医学专业知识，典型的基于SSL的模型在医疗图像异常检测中效率低下。我们提出了一个基于SSL的模型，该模型可实现基于解剖结构的无监督异常检测（UAD）。该模型采用解剖学意识粘贴（Anatpaste）增强工具。 Anatpaste采用基于阈值的肺部分割借口任务来在正常的胸部X光片上创建异常，用于模型预处理。这些异常类似于实际异常，并帮助模型识别它们。我们在三个OpenSource胸部X光片数据集上评估了我们的模型。我们的模型在曲线（AUC）下展示了92.1％，78.7％和81.9％的模型，在现有UAD模型中最高。这是第一个使用解剖信息作为借口任务的SSL模型。 Anatpaste可以应用于各种深度学习模型和下游任务。它可以通过修复适当的细分来用于其他方式。我们的代码可在以下网址公开获取：https：//github.com/jun-sato/anatpaste。

当应用于具有高级别方差的目标类别的复杂数据集时，基于异常检测的基于异常检测的方法趋于下降。类似于转移学习中使用的自学学习的想法，许多域具有类似的未标记数据集，可以作为分发超出样本的代理。在本文中，我们介绍了来自类似域的未标记数据的潜在不敏感的AutoEncoder（LIS-AE）用作阳性示例以形成常规AutoEncoder的潜在层（瓶颈），使得它仅能够重建一个任务。我们为拟议的培训流程和损失职能提供了理论理的理由以及广泛的消融研究，突出了我们模型的重要方面。我们在多个异常检测设置中测试我们的模型，呈现定量和定性分析，展示了我们对异常检测任务模型的显着性能改进。

我们介绍了一个简单而直观的自我实施任务，自然合成异常（NSA），用于训练仅使用正常培训数据的端到端模型，以实现异常检测和定位。NSA将Poisson图像编辑整合到来自单独图像的各种尺寸的无缝混合缩放贴片。这会产生广泛的合成异常，与以前的自我监督异常检测的数据 - 启发策略相比，它们更像自然的子图像不规则。我们使用天然和医学图像评估提出的方法。我们对MVTEC AD数据集进行的实验表明，经过训练的用于本地NSA异常的模型可以很好地概括地检测现实世界中的先验未知类型的制造缺陷。我们的方法实现了97.2的总检测AUROC，优于所有以前的方法，这些方法在不使用其他数据集的情况下学习。可在https://github.com/hmsch/natural-synthetic-anomalies上获得代码。

本文认为很少发生异常检测（FSAD），这是一种实用但研究不足的异常检测设置（AD），在训练中，每个类别仅提供有限数量的正常图像。到目前为止，现有的FSAD研究遵循用于标准AD的单层学习范式，并且尚未探索类别间的共同点。受到人类如何检测异常的启发，即将所讨论的图像与正常图像进行比较，我们在这里利用注册，这是一个固有跨越类别（​​作为代理任务）固有概括的图像对齐任务，以训练类别不稳定的异常异常检测模型。在测试过程中，通过比较测试图像的注册特征及其相应支持（正常）图像来识别异常。据我们所知，这是训练单个可推广模型的第一种FSAD方法，不需要对新类别进行重新训练或参数调整。实验结果表明，在MVTEC和MPDD基准上，所提出的方法在AUC中优于最先进的FSAD方法。

由于缺乏标签信息，异常检测是机器学习中的基本但具有挑战性的问题。在这项工作中，我们提出了一种新颖而强大的框架，称为SLA $ ^ 2 $ P，用于无监督的异常检测。在从原始数据中提取代表性嵌入后，我们将随机投影应用于特征，并将不同投影转换的特征视为属于不同的伪类。然后，我们在这些转换功能上培训一个分类器网络，以执行自我监督的学习。接下来，我们向变换特征添加对冲扰动，以减少预测标签的软MAX分数，并基于这些扰动特征对分类器的预测不确定性来降低预测标签和设计异常分数。我们的动机是，由于相对较小的数量和分散的异常模式，1）伪标签分类器的培训更集中学习正常数据的语义信息而不是异常数据; 2）正常数据的转换特征比异常的扰动更强大。因此，异常的扰动转化的特征不能良好分类，因此具有比正常样本的异常分数低。在图像，文本和固有的表格基准数据集上进行了广泛的实验，并表明SLA $ ^ 2 $ p实现了最先进的导致无监督的异常检测任务一致。