我们介绍了一个基于距离的神经网络模型，以进行回归，其中预测不确定性通过真实线上的信念函数量化。该模型将输入矢量与原型的距离解释为以高斯随机模糊数（GRFN）表示的证据，并由广义产品交叉路口规则组合，这是一种将Dempster规则扩展到随机模糊集的操作员。网络输出是一个GRFN，可以通过三个数字来概括，这些数字表征了最合理的预测值，该值周围的可变性以及认知不确定性。与最先进的证据和统计学习算法相比，使用真实数据集的实验证明了该方法的表现非常好。\关键字{证据理论，dempster-shafer理论，信念功能，机器学习，随机模糊集。

We introduce a general theory of epistemic random fuzzy sets for reasoning with fuzzy or crisp evidence. This framework generalizes both the Dempster-Shafer theory of belief functions, and possibility theory. Independent epistemic random fuzzy sets are combined by the generalized product-intersection rule, which extends both Dempster's rule for combining belief functions, and the product conjunctive combination of possibility distributions. We introduce Gaussian random fuzzy numbers and their multi-dimensional extensions, Gaussian random fuzzy vectors, as practical models for quantifying uncertainty about scalar or vector quantities. Closed-form expressions for the combination, projection and vacuous extension of Gaussian random fuzzy numbers and vectors are derived.

提出了一种基于Dempster-Shafer理论和深度学习的自动证据分割方法，以从三维正电子发射断层扫描（PET）和计算机断层扫描（CT）图像中分割淋巴瘤。该体系结构由深度功能萃取模块和证据层组成。功能提取模块使用编码器框架框架从3D输入中提取语义特征向量。然后，证据层在特征空间中使用原型来计算每个体素的信念函数，以量化有关该位置存在或不存在淋巴瘤的不确定性。基于使用距离的不同方式，比较了两个证据层，以计算质量函数。通过最大程度地减少骰子损失函数，对整个模型进行了训练。表明，深度提取和证据分割的建议组合表现出优于基线UNET模型以及173名患者的数据集中的其他三个最先进的模型。

对不确定性的深入了解是在不确定性下做出有效决策的第一步。深度/机器学习（ML/DL）已被大大利用，以解决处理高维数据所涉及的复杂问题。但是，在ML/DL中，推理和量化不同类型的不确定性的探索少于其他人工智能（AI）领域。特别是，自1960年代以来，在KRR上已经研究了信仰/证据理论，以推理并衡量不确定性以提高决策效率。我们发现，只有少数研究利用了ML/DL中的信念/证据理论中的成熟不确定性研究来解决不同类型的不确定性下的复杂问题。在本调查论文中，我们讨论了一些流行的信念理论及其核心思想，这些理论涉及不确定性原因和类型，并量化它们，并讨论其在ML/DL中的适用性。此外，我们讨论了三种主要方法，这些方法在深度神经网络（DNN）中利用信仰理论，包括证据DNN，模糊DNN和粗糙的DNN，就其不确定性原因，类型和量化方法以及其在多元化问题中的适用性而言。域。根据我们的深入调查，我们讨论了见解，经验教训，对当前最新桥接信念理论和ML/DL的局限性，最后是未来的研究方向。

The notion of uncertainty is of major importance in machine learning and constitutes a key element of machine learning methodology. In line with the statistical tradition, uncertainty has long been perceived as almost synonymous with standard probability and probabilistic predictions. Yet, due to the steadily increasing relevance of machine learning for practical applications and related issues such as safety requirements, new problems and challenges have recently been identified by machine learning scholars, and these problems may call for new methodological developments. In particular, this includes the importance of distinguishing between (at least) two different types of uncertainty, often referred to as aleatoric and epistemic. In this paper, we provide an introduction to the topic of uncertainty in machine learning as well as an overview of attempts so far at handling uncertainty in general and formalizing this distinction in particular.

Demspter-Shafer证据理论中提出的不确定性量化的信念函数方法是基于对集合值观测的一般数学模型，称为随机集。设定值的预测是机器学习中不确定性的最自然表示。在本文中，我们介绍了一个基于对信仰功能的随机解释来模拟深度神经网络中的认知学习的概念。我们提出了一个新型的随机卷积神经网络，用于分类，该网络通过学习设置值的地面真实表示来为类别的分类产生分数。我们评估信仰功能的熵和距离度量的不同公式，作为这些随机集网络的可行损失函数。我们还讨论了评估认知预测质量和认知随机神经网络的表现的方法。我们通过实验证明，与传统的估计不确定性相比，认知方法可以产生更好的性能结果。

The investigation of uncertainty is of major importance in risk-critical applications, such as medical image segmentation. Belief function theory, a formal framework for uncertainty analysis and multiple evidence fusion, has made significant contributions to medical image segmentation, especially since the development of deep learning. In this paper, we provide an introduction to the topic of medical image segmentation methods using belief function theory. We classify the methods according to the fusion step and explain how information with uncertainty or imprecision is modeled and fused with belief function theory. In addition, we discuss the challenges and limitations of present belief function-based medical image segmentation and propose orientations for future research. Future research could investigate both belief function theory and deep learning to achieve more promising and reliable segmentation results.

由于ICS网络中的错误配置/受损IDS导致的误报可能导致严重的经济和运行损坏。为了解决这个问题，研究专注于利用深度学习技术，有助于减少虚假警报。然而，缺点是这些工作通常需要或隐含地假设要值得信赖的物理和网络传感器。隐含数据的信任是使用人工智能或机器学习进行CPS安全的主要问题，因为在临界攻击检测时，它们更有风险，具有更大的可能性和影响，也受到损害。为了解决这个缺点，对如何在不确定性提供良好决策的情况下重新抑制了问题。然后，决定是检测，并且不确定性包括用于基于ML的ID的数据是否受到损害。因此，该工作提供了一种方法，可以通过在未经警报的先前分配知识的情况下处理不确定性来减少CPS电力系统中的误报的方法。具体而言，提出了一种利用Dempster Shafer组合规则的基于证据的方法，以减少虚假警报。设计了多假设质量函数模型，其利用各种监督学习分类器获得的概率分数。使用该模型，提出了一种基于位置域的基于域的融合框架，并以不同的组合规则评估，该规则融合了来自域间和域内传感器的多个证据。该方法在具有在大型合成电网中的中间攻击仿真测试的网络 - 物理电力系统中进行了证明。为了评估绩效，合理性，信仰，雕刻律等。考虑了决策功能的指标。为了提高性能，提出了一种考虑决策度量作为健身功能的特征选择的多目标基于遗传算法。

在过去几十年中，已经提出了各种方法，用于估计回归设置中的预测间隔，包括贝叶斯方法，集合方法，直接间隔估计方法和保形预测方法。重要问题是这些方法的校准：生成的预测间隔应该具有预定义的覆盖水平，而不会过于保守。在这项工作中，我们从概念和实验的角度审查上述四类方法。结果来自各个域的基准数据集突出显示从一个数据集中的性能的大波动。这些观察可能归因于违反某些类别的某些方法所固有的某些假设。我们说明了如何将共形预测用作提供不具有校准步骤的方法的方法的一般校准程序。

概率间隔是在不确定性下推理的有吸引力的工具。但是，与信仰功能不同，它们缺乏用于在实用工具理论框架中的决策中的自然概率转变。在本文中，我们提出了使用交叉路口概率，最初导致的变换，以便在不确定的几何方法的框架内进行信仰功能，作为最自然的这种转变。我们回顾其理由和定义，将其与其他概率间隔系统的其他候选者进行比较，讨论其作为一对简单的焦点的信任理由，并概述了概率间隔的可能决策框架，类似于可转移信仰功能的信仰模式。

高斯混合物模型（GMM）提供了一个简单而原则的框架，具有适用于统计推断的属性。在本文中，我们提出了一种新的基于模型的聚类算法，称为EGMM（证据GMM），在信念函数的理论框架中，以更好地表征集群成员的不确定性。通过代表每个对象的群集成员的质量函数，提出了由所需群集的功率组组成的组件组成的证据高斯混合物分布来对整个数据集进行建模。 EGMM中的参数通过特殊设计的预期最大化（EM）算法估算。还提供了允许自动确定正确数量簇的有效性指数。所提出的EGMM与经典GMM一样简单，但可以为所考虑的数据集生成更有信息的证据分区。合成和真实数据集实验表明，所提出的EGMM的性能比其他代表性聚类算法更好。此外，通过应用多模式脑图像分割的应用也证明了其优势。

密度矩阵描述了量子系统的统计状态。它是一种强大的形式主义，代表量子系统的量子和经典不确定性，并表达不同的统计操作，例如测量，系统组合和期望作为线性代数操作。本文探讨了密度矩阵如何用作构建块，以构建机器学习模型，利用它们直接组合线性代数和概率的能力。本文的主要结果之一是表示与随机傅里叶功能耦合的密度矩阵可以近似任意概率分布超过$ \ mathbb {r} ^ n $。基于此发现，该纸张为密度估计，分类和回归构建了不同的模型。这些模型是可疑的，因此可以将它们与其他可分辨率的组件（例如深度学习架构）集成，并使用基于梯度的优化来学习其参数。此外，本文提出了基于估计和模型平均的优化培训策略。该模型在基准任务中进行评估，并报告并讨论结果。

我们研究了回归中神经网络（NNS）的模型不确定性的方法。为了隔离模型不确定性的效果，我们专注于稀缺训练数据的无噪声环境。我们介绍了关于任何方法都应满足的模型不确定性的五个重要的逃亡者。但是，我们发现，建立的基准通常无法可靠地捕获其中一些逃避者，即使是贝叶斯理论要求的基准。为了解决这个问题，我们介绍了一种新方法来捕获NNS的模型不确定性，我们称之为基于神经优化的模型不确定性（NOMU）。 NOMU的主要思想是设计一个由两个连接的子NN组成的网络体系结构，一个用于模型预测，一个用于模型不确定性，并使用精心设计的损耗函数进行训练。重要的是，我们的设计执行NOMU满足我们的五个Desiderata。由于其模块化体系结构，NOMU可以为任何给定（先前训练）NN提供模型不确定性，如果访问其培训数据。我们在各种回归任务和无嘈杂的贝叶斯优化（BO）中评估NOMU，并具有昂贵的评估。在回归中，NOMU至少和最先进的方法。在BO中，Nomu甚至胜过所有考虑的基准。

由于信息源通常不完美，因此有必要考虑其在多源信息融合任务中的可靠性。在本文中，我们提出了一个新的深层框架，使我们能够使用Dempster-Shafer理论的形式合并多MR图像分割结果，同时考虑到相对于不同类别的不同模式的可靠性。该框架由编码器折线功能提取模块组成，该模块是每个模态在每个体素上计算信念函数的证据分割模块，以及多模式的证据融合模块，该模块为每个模态证据和每个模态证据和折现率分配使用Dempster规则结合折扣证据。整个框架是通过根据折扣骰子指数最小化新的损失功能来培训的，以提高细分精度和可靠性。该方法在1251例脑肿瘤患者的Brats 2021数据库中进行了评估。定量和定性的结果表明，我们的方法表现优于最新技术，并实现了在深神经网络中合并多信息的有效新想法。

天然气管道中的泄漏检测是石油和天然气行业的一个重要且持续的问题。这尤其重要，因为管道是运输天然气的最常见方法。这项研究旨在研究数据驱动的智能模型使用基本操作参数检测天然气管道的小泄漏的能力，然后使用现有的性能指标比较智能模型。该项目应用观察者设计技术，使用回归分类层次模型来检测天然气管道中的泄漏，其中智能模型充当回归器，并且修改后的逻辑回归模型充当分类器。该项目使用四个星期的管道数据流研究了五个智能模型（梯度提升，决策树，随机森林，支持向量机和人工神经网络）。结果表明，虽然支持向量机和人工神经网络比其他网络更好，但由于其内部复杂性和所使用的数据量，它们并未提供最佳的泄漏检测结果。随机森林和决策树模型是最敏感的，因为它们可以在大约2小时内检测到标称流量的0.1％的泄漏。所有智能模型在测试阶段中具有高可靠性，错误警报率为零。将所有智能模型泄漏检测的平均时间与文献中的实时短暂模型进行了比较。结果表明，智能模型在泄漏检测问题中的表现相对较好。该结果表明，可以与实时瞬态模型一起使用智能模型，以显着改善泄漏检测结果。

在回归设置中量化不确定性的许多方法中，指定完整量子函数具有吸引力，随着量级可用于解释和评估。预测每个输入的真实条件定量的模型，在所有量化水平上都具有潜在的不确定性的正确和有效的表示。为实现这一目标，许多基于当前的分位式的方法侧重于优化所谓的弹球损失。然而，这种损失限制了适用的回归模型的范围，限制了靶向许多所需特性的能力（例如校准，清晰度，中心间隔），并且可能产生差的条件量数。在这项工作中，我们开发了满足这些缺点的新分位式方法。特别是，我们提出了可以适用于任何类别的回归模型的方法，允许在校准和清晰度之间选择权衡，优化校准中心间隔，并产生更准确的条件定位。我们对我们的方法提供了彻底的实验评估，其中包括核融合中的高维不确定性量化任务。

当在条件属性上以某种方式相关的实例时，发生预测问题的不一致不会遵循决策属性的相同关系。例如，在具有单调性约束的序数分类中，当在条件属性上占据另一个实例的实例已经分配给更糟糕的决策类时，会发生它。它通常出现在由不完全知识（缺少属性）或通过数据生成期间发生的随机效果引起的数据的扰动（在决策属性值的评估中的不稳定性）引起的数据中的扰动。可以使用符号方法如粗糙集理论等象征方法处理和涉及优化方法的统计/机器学习方法，处理相对于清晰的预购关系（表达实例之间的差异或实例之间的无漏能格）不一致。模糊粗糙集也可以被视为对模糊关系处理不一致的象征性方法。在本文中，我们介绍了一种新的机器学习方法，用于对模糊预订关系进行不一致处理。新颖的方法是由用于清脆关系的现有机器学习方法的激励。我们为IT提供统计基础，并开发可用于消除不一致的优化程序。本文还证明了重要的财产，并载有这些程序的教学例子。

Label noise is an important issue in classification, with many potential negative consequences. For example, the accuracy of predictions may decrease, whereas the complexity of inferred models and the number of necessary training samples may increase. Many works in the literature have been devoted to the study of label noise and the development of techniques to deal with label noise. However, the field lacks a comprehensive survey on the different types of label noise, their consequences and the algorithms that consider label noise. This paper proposes to fill this gap. First, the definitions and sources of label noise are considered and a taxonomy of the types of label noise is proposed. Second, the potential consequences of label noise are discussed. Third, label noise-robust, label noise cleansing, and label noise-tolerant algorithms are reviewed. For each category of approaches, a short discussion is proposed to help the practitioner to choose the most suitable technique in its own particular field of application. Eventually, the design of experiments is also discussed, what may interest the researchers who would like to test their own algorithms. In this paper, label noise consists of mislabeled instances: no additional information is assumed to be available like e.g. confidences on labels.

Most questionnaires offer ordered responses whose order is poorly studied via belief functions. In this paper, we study the consequences of a frame of discernment consisting of ordered elements on belief functions. This leads us to redefine the power space and the union of ordered elements for the disjunctive combination. We also study distances on ordered elements and their use. In particular, from a membership function, we redefine the cardinality of the intersection of ordered elements, considering them fuzzy.

区分和量化两种重要类型的不确定性，通常被称为炼狂和认识的想法，在过去几年里，在机器学习研究中受到了越来越关注。在本文中，我们考虑基于合并的不确定量化方法。区分不同类型的不确定感知学习算法，我们专注于基于所谓的信件集的贝叶斯方法和方法，这自然而然地从集合学习的角度来看。对于这两种方法，我们解决了如何量化炼体和认识性不确定性的问题。评估了相应措施的有效性，并在对拒绝选项进行分类的实证研究中进行了比较。