黑色素瘤是一种严重的皮肤癌，在后期阶段高死亡率。幸运的是，当早期发现时，黑色素瘤的预后是有希望的，恶性黑色素瘤的发病率相对较低。结果，数据集严重不平衡，这使培训当前的最新监督分类AI模型变得复杂。我们建议使用生成模型来学习良性数据分布，并通过密度估计检测出分布（OOD）恶性图像。标准化流（NFS）是OOD检测的理想候选者，因为它们可以计算精确的可能性。然而，它们的感应偏见对明显的图形特征而不是语义上下文障碍障碍的OOD检测。在这项工作中，我们旨在将这些偏见与黑色素瘤的领域水平知识一起使用，以改善基于可能性的OOD检测恶性图像。我们令人鼓舞的结果表明，使用NFS检测黑色素瘤的可能性。我们通过使用基于小波的NFS，在接收器工作特性的曲线下，面积增加了9％。该模型需要较少的参数，以使其更适用于边缘设备。拟议的方法可以帮助医学专家诊断出皮肤癌患者并不断提高存活率。此外，这项研究为肿瘤学领域的其他领域铺平了道路，具有类似的数据不平衡问题\ footNote {代码可用：

归一化流是突出的深层生成模型，提供了易诊的概率分布和有效密度估计。但是，众所周知，在检测到分配（OOD）输入时，它们是众所周知的，因为它们直接在其潜在空间中对输入表示的本地特征进行了编码。在本文中，我们通过演示流动，如果通过注意机制延伸，可以通过表明流动，可以可靠地检测到包括对抗攻击的异常值。我们的方法不需要对培训的异常数据，并通过在多样化的实验设置中报告最先进的性能来展示我们的ood检测方法的效率。代码在https://github.com/computationalradiationphysphysics/inflow上提供。

现代的深层生成模型可以为从训练分布外部提取的输入分配很高的可能性，从而对开放世界部署中的模型构成威胁。尽管已经对定义新的OOD不确定性测试时间度量的研究进行了很多关注，但这些方法并没有从根本上改变生成模型在训练中的正则和优化。特别是，生成模型被证明过于依赖背景信息来估计可能性。为了解决这个问题，我们提出了一个新颖的OOD检测频率调查学习FRL框架，该框架将高频信息纳入培训中，并指导模型专注于语义相关的功能。 FRL有效地提高了广泛的生成架构的性能，包括变异自动编码器，Glow和PixelCNN ++。在一项新的大规模评估任务中，FRL实现了最先进的表现，表现优于强大的基线可能性遗憾，同时达到了147 $ \ times $ $ $ $ $ \ times $ a的推理速度。广泛的消融表明，FRL在保留图像生成质量的同时改善了OOD检测性能。代码可在https://github.com/mu-cai/frl上找到。

深度神经网络已经显示出使用医学图像数据的疾病检测和分类结果。然而，他们仍然遭受处理真实世界场景的挑战，特别是可靠地检测分配（OOD）样本。我们提出了一种方法来强化皮肤和疟疾样本的ood样本，而无需在训练期间获得标记的OOD样品。具体而言，我们使用度量学习以及Logistic回归来强制深度网络学习众多丰富的类代表功能。要指导对OOD示例的学习过程，我们通过删除图像或置换图像部件中的类特定的突出区域并远离分布式样本来生成ID类似的示例。在推理时间期间，用于检测分布外样品的K +互易邻居。对于皮肤癌ood检测，我们使用两个标准基准皮肤癌症ISIC数据集AS ID，六种不同的数据集具有不同难度水平的数据集被视为出于分配。对于疟疾检测，我们使用BBBC041 Malaria DataSet作为ID和五个不同的具有挑战性的数据集，如分销。我们在先前的先前皮肤癌和疟疾OOD检测中，我们在TNR @ TPR95％中提高了最先进的结果，改善了5％和4％。

我描述了使用规定规则作为替代物的训练流模型的技巧，以最大程度地发出可能性。此技巧的实用性限制在非条件模型中，但是该方法的扩展应用于数据和条件信息的最大可能性分布的最大可能性，可用于训练复杂的\ textit \ textit {条件{条件}流模型。与以前的方法不同，此方法非常简单：它不需要明确了解条件分布，辅助网络或其他特定体系结构，或者不需要超出最大可能性的其他损失项，并且可以保留潜在空间和数据空间之间的对应关系。所得模型具有非条件流模型的所有属性，对意外输入具有鲁棒性，并且可以预测在给定输入上的解决方案的分布。它们具有预测代表性的保证，并且是解决高度不确定问题的自然和强大方法。我在易于可视化的玩具问题上演示了这些属性，然后使用该方法成功生成类条件图像并通过超分辨率重建高度退化的图像。

本文提出了一个新颖的分布（OOD）检测框架，名为MoodCat用于图像分类器。MoodCat掩盖了输入图像的随机部分，并使用生成模型将蒙版图像合成为在分类结果条件下的新图像中。然后，它计算原始图像与合成图像之间的语义差异。与现有的解决方案相比，MoodCat自然会使用拟议的面具和条件合成策略来学习分布数据的语义信息，这对于识别OOD至关重要。实验结果表明，MoodCat的表现优于最先进的OOD检测解决方案。

无监督的分销（U-OOD）检测最近引起了很多关注，因为它在关键任务系统中的重要性以及对其监督对方的更广泛的适用性。尽管注意力增加，U-OOD方法遭受了重要的缺点。通过对不同的基准和图像方式进行大规模评估，我们在这项工作中展示了最受欢迎的最先进的方法无法始终如一地始终基于Mahalanobis距离（Mahaad）的简单且相对未知的异常探测器。这些方法不一致的一个关键原因是缺乏U-OOD的正式描述。通过一个简单的思想实验，我们提出了基于培训数据集的不变性的U-OOD的表征。我们展示了这种表征如何在众所周置的Mahaad方法中体现在不知不觉中，从而解释了其质量。此外，我们的方法可用于解释U-OOD探测器的预测，并为评估未来U-OOD方法的良好实践提供见解。

分发（OOD）检测和无损压缩构成了两个问题，可以通过对第一个数据集的概率模型进行训练来解决，其中在第二数据集上的后续似然评估，其中数据分布不同。通过在可能性方面定义概率模型的概括，我们表明，在图像模型的情况下，泛展能力通过本地特征主导。这激励了我们对本地自回归模型的提议，该模型专门为局部图像特征而达到改善的性能。我们将拟议的模型应用于检测任务，并在未引入其他数据的情况下实现最先进的无监督的检测性能。此外，我们使用我们的模型来构建新的无损图像压缩机：Nelloc（神经本地无损压缩机）和报告最先进的压缩率和模型大小。

基于密度的分布（OOD）检测最近显示了检测OOD图像的任务不可靠。基于各种密度比的方法实现了良好的经验性能，但是方法通常缺乏原则性的概率建模解释。在这项工作中，我们建议在建立基于能量的模型并采用不同基础分布的新框架下统一基于密度比的方法。在我们的框架下，密度比可以看作是隐式语义分布的非均衡密度。此外，我们建议通过类比率估计直接估计数据样本的密度比。与最近的工作相比，我们报告了有关OOD图像问题的竞争结果，这些工作需要对任务进行深层生成模型的培训。我们的方法使一个简单而有效的途径可以解决OOD检测问题。

主体组件分析（PCA）在给定固定组件维度的一类线性模型的情况下，将重建误差最小化。概率PCA通过学习PCA潜在空间权重的概率分布，从而创建生成模型，从而添加了概率结构。自动编码器（AE）最小化固定潜在空间维度的一类非线性模型中的重建误差，在固定维度处胜过PCA。在这里，我们介绍了概率自动编码器（PAE），该自动编码器（PAE）使用归一化流量（NF）了解了AE潜在空间权重的概率分布。 PAE快速且易于训练，并在下游任务中遇到小的重建错误，样本质量高以及良好的性能。我们将PAE与差异AE（VAE）进行比较，表明PAE训练更快，达到较低的重建误差，并产生良好的样品质量，而无需特殊的调整参数或培训程序。我们进一步证明，PAE是在贝叶斯推理的背景下，用于涂抹和降解应用程序的贝叶斯推断，可以执行概率图像重建的下游任务的强大模型。最后，我们将NF的潜在空间密度确定为有希望的离群检测度量。

Discriminative neural networks offer little or no performance guarantees when deployed on data not generated by the same process as the training distribution. On such out-of-distribution (OOD) inputs, the prediction may not only be erroneous, but confidently so, limiting the safe deployment of classifiers in real-world applications. One such challenging application is bacteria identification based on genomic sequences, which holds the promise of early detection of diseases, but requires a model that can output low confidence predictions on OOD genomic sequences from new bacteria that were not present in the training data. We introduce a genomics dataset for OOD detection that allows other researchers to benchmark progress on this important problem. We investigate deep generative model based approaches for OOD detection and observe that the likelihood score is heavily affected by population level background statistics. We propose a likelihood ratio method for deep generative models which effectively corrects for these confounding background statistics. We benchmark the OOD detection performance of the proposed method against existing approaches on the genomics dataset and show that our method achieves state-of-the-art performance. We demonstrate the generality of the proposed method by showing that it significantly improves OOD detection when applied to deep generative models of images.

深度神经网络拥有的一个重要股权是在以前看不见的数据上对分发检测（OOD）进行强大的能力。在为现实世界应用程序部署模型时，此属性对于安全目的至关重要。最近的研究表明，概率的生成模型可以在这项任务上表现不佳，这令他们寻求估计培训数据的可能性。为了减轻这个问题，我们提出了对变分性自动化器（VAE）的指数倾斜的高斯先前分配。通过此之前，我们能够使用VAE自然分配的负面日志可能性来实现最先进的结果，同时比某些竞争方法快的数量级。我们还表明，我们的模型生产高质量的图像样本，这些样本比标准高斯VAE更清晰。新的先前分配具有非常简单的实现，它使用kullback leibler发散，该kullback leibler发散，该横向leibler发散，该分解比较潜伏向量的长度与球体的半径之间的差异。

尽管具有优势，但正常化的流量通常会遇到几个缺点，包括它们产生不现实数据（例如图像）的趋势及其未能检测到分布数据的数据。这些缺陷的原因之一在于培训策略传统上仅利用最大似然原则。本文提出了一个新的训练范式，该训练范式基于结合最大似然原理（MLE）和切成薄片的距离的混合目标函数。在合成玩具示例和真实图像数据集上获得的结果在生成样品的可能性和视觉方面都显示出更好的生成能力。相度地，提出的方法导致分布数据的可能性较低，表明所得流的数据保真度更高。

可靠的评估方法对于构建强大的分布（OOD）检测器至关重要。OOD检测器的当前鲁棒性评估协议依赖于向数据注射扰动。但是，扰动不太可能自然发生或与数据内容无关，从而提供了有限的鲁棒性评估。在本文中，我们提出了对OOD检测器（EVG）的评估-VIA产生，这是一种新的协议，用于研究异常值变化模式下OOD检测器的鲁棒性。EVG利用生成模型合成合理的异常值，并采用MCMC采样来发现探测器最高置信度的分布式分类为分类。我们使用EVG对最先进的OOD检测器的性能进行了全面的基准比较，从而揭示了先前被忽视的弱点。

Normalizing Flows are generative models which produce tractable distributions where both sampling and density evaluation can be efficient and exact. The goal of this survey article is to give a coherent and comprehensive review of the literature around the construction and use of Normalizing Flows for distribution learning. We aim to provide context and explanation of the models, review current state-of-the-art literature, and identify open questions and promising future directions.

Conditional normalizing flows can generate diverse image samples for solving inverse problems. Most normalizing flows for inverse problems in imaging employ the conditional affine coupling layer that can generate diverse images quickly. However, unintended severe artifacts are occasionally observed in the output of them. In this work, we address this critical issue by investigating the origins of these artifacts and proposing the conditions to avoid them. First of all, we empirically and theoretically reveal that these problems are caused by ``exploding variance'' in the conditional affine coupling layer for certain out-of-distribution (OOD) conditional inputs. Then, we further validated that the probability of causing erroneous artifacts in pixels is highly correlated with a Mahalanobis distance-based OOD score for inverse problems in imaging. Lastly, based on our investigations, we propose a remark to avoid exploding variance and then based on it, we suggest a simple remedy that substitutes the affine coupling layers with the modified rational quadratic spline coupling layers in normalizing flows, to encourage the robustness of generated image samples. Our experimental results demonstrated that our suggested methods effectively suppressed critical artifacts occurring in normalizing flows for super-resolution space generation and low-light image enhancement without compromising performance.

The problem of detecting the Out-of-Distribution (OoD) inputs is of paramount importance for Deep Neural Networks. It has been previously shown that even Deep Generative Models that allow estimating the density of the inputs may not be reliable and often tend to make over-confident predictions for OoDs, assigning to them a higher density than to the in-distribution data. This over-confidence in a single model can be potentially mitigated with Bayesian inference over the model parameters that take into account epistemic uncertainty. This paper investigates three approaches to Bayesian inference: stochastic gradient Markov chain Monte Carlo, Bayes by Backpropagation, and Stochastic Weight Averaging-Gaussian. The inference is implemented over the weights of the deep neural networks that parameterize the likelihood of the Variational Autoencoder. We empirically evaluate the approaches against several benchmarks that are often used for OoD detection: estimation of the marginal likelihood utilizing sampled model ensemble, typicality test, disagreement score, and Watanabe-Akaike Information Criterion. Finally, we introduce two simple scores that demonstrate the state-of-the-art performance.

分布（OOD）检测对于确保机器学习系统的可靠性和安全性至关重要。例如，在自动驾驶中，我们希望驾驶系统在发现在训练时间中从未见过的异常​​场景或对象时，发出警报并将控件移交给人类，并且无法做出安全的决定。该术语《 OOD检测》于2017年首次出现，此后引起了研究界的越来越多的关注，从而导致了大量开发的方法，从基于分类到基于密度到基于距离的方法。同时，其他几个问题，包括异常检测（AD），新颖性检测（ND），开放式识别（OSR）和离群检测（OD）（OD），在动机和方法方面与OOD检测密切相关。尽管有共同的目标，但这些主题是孤立发展的，它们在定义和问题设定方面的细微差异通常会使读者和从业者感到困惑。在这项调查中，我们首先提出一个称为广义OOD检测的统一框架，该框架涵盖了上述五个问题，即AD，ND，OSR，OOD检测和OD。在我们的框架下，这五个问题可以看作是特殊情况或子任务，并且更容易区分。然后，我们通过总结了他们最近的技术发展来审查这五个领域中的每一个，特别关注OOD检测方法。我们以公开挑战和潜在的研究方向结束了这项调查。

变形自身偏移（VAES）是具有来自深神经网络架构和贝叶斯方法的丰富代表功能的有影响力的生成模型。然而，VAE模型具有比分布（ID）输入的分配方式分配更高的可能性较高的可能性。为了解决这个问题，认为可靠的不确定性估计是对对OOC投入的深入了解至关重要。在这项研究中，我们提出了一种改进的噪声对比之前（INCP），以便能够集成到VAE的编码器中，称为INCPVAE。INCP是可扩展，可培训和与VAE兼容的，它还采用了来自INCP的优点进行不确定性估计。各种数据集的实验表明，与标准VAE相比，我们的模型在OOD数据的不确定性估计方面是优越的，并且在异常检测任务中是强大的。INCPVAE模型获得了可靠的输入不确定性估算，并解决了VAE模型中的ood问题。

归一化流量是具有易于易变量的神经网络的可逆性网络，其允许通过最大可能性优化它们的参数来有效地执行。然而，通常假设感兴趣的数据生活在嵌入在高维环境空间中的一些（通常未知）的低维歧管中。结果是自建设中以来的建模不匹配 - 可逆性要求意味着学习分布的高维支持。注射流量，从低到高维空间的映射，旨在通过学习歧管的分布来解决这种差异，但是由此产生的体积变化术语变得更具挑战性。目前方法避免完全使用各种启发式计算该术语，或者假设歧管预先已知，因此不广泛适用。相反，我们提出了两种方法来对模型的参数来促进该术语的梯度，依赖于仔细使用来自数值线性代数的自动分化和技术。两种方法都对将其投射到这种歧管上的数据执行端到端非线性歧管学习和密度估计。我们研究了我们所提出的方法之间的权衡，经验验证我们优于更准确地学习歧管和对应的相应分布忽略音量变化术语的优先级，并显示出对分布外检测的有希望的结果。我们的代码可在https://github.com/layer6ai-labs/rectangular-flows中找到。