学习贝叶斯网络是一个NP硬性问题，并且随着节点的数量增加，学习贝叶斯网络结构的经典算法效率低下。近年来，开发了一些用于学习大量节点的贝叶斯网络的方法和算法（超过50个）。但是，这些解决方案的缺点，例如，它们仅操作一种类型的数据（离散或连续），或者已经创建了其算法来满足数据的特定性质（医学，社交等）。本文介绍了一种用于学习具有大量节点（超过100个）的大型贝叶斯网络的大bravebn算法。该算法利用了勇敢的系数，该系数测量了几组实例的相互发生。为了形成这些组，我们根据共同信息（MI）度量使用最近的邻居方法。在本文的实验部分中，我们将BigBraveBN与其他现有解决方案的性能与多个离散和连续数据集进行了比较。实验部分还代表了对实际数据的测试。上述实验结果证明了Bigbravebn算法在贝叶斯网络的结构学习中的效率。

本文介绍了一种基于特征空间群集产生的块来学习大型贝叶斯网络的新方法。使用归一化的共同信息获得此聚类。并且随后的块聚合使用经典学习方法完成，除了它们是输入的，其中包含有关每个块特征值组合的压缩信息。该方法的验证是针对爬山的两种分数函数的图表枚举算法进行的：BIC和MI。这样，即使对于那些被认为不适合并行学习的分数函数，也可以实现潜在的可行块学习。该方法的优势是根据工作速度以及发现结构的准确性评估的。

发现和参数化的潜在混杂因素分别代表了因果结构学习和密度估计中的重要和具有挑战性的问题。在本文中，我们专注于发现和学习潜在混杂因素的分布。此任务需要来自不同领域和机器学习领域的解决方案。我们结合了各种贝叶斯方法的要素，期望最大化，爬山搜索以及在因果关系不足的假设下学习的元素。我们提出了两种学习策略。一种可以最大化模型选择准确性，另一种可以提高计算效率，以换取精确度的较小降低。前一种策略适用于小型网络，后者适用于中等大小的网络。两种学习策略相对于现有解决方案都表现良好。

本地到全球学习方法在贝叶斯网络（BN）结构学习中起着重要作用。现有的本地到全局学习算法首先通过在数据集中学习每个变量的MB（马尔可夫毯子）或PC（家长和儿童）来构建DAG（Markov毯子）或PC（父母和儿童），然后在骨架中定向边缘。然而，现有的MB或PC学习方法通​​常是昂贵的昂贵昂贵，特别是具有大型BN，导致局部到全局学习算法效率低下。为了解决问题，在本文中，我们使用特征选择开发了一个有效的本地到全局学习方法。具体地，我们首先分析众所周知的最小冗余和最大相关性（MRMR）特征选择方法的基本原理，用于学习变量的PC集。基于分析，我们提出了一种高效的F2SL（基于特征选择的结构学习）方法，以局部 - 全局BN结构学习。 F2SL方法首先采用MRMR方法来学习DAG骨架，然后在骨架中的边缘。采用独立测试或进行定向边缘的分数函数，我们将F2SL方法实例化为两个新算法，F2SL-C（使用独立测试）和F2SL-S（使用得分函数）。与最先进的本地到全局BN学习算法相比，实验验证了本文中所提出的算法比比较算法更有效，提供竞争性结构学习质量。

Using a Bayesian network to analyze the causal relationship between nodes is a hot spot. The existing network learning algorithms are mainly constraint-based and score-based network generation methods. The constraint-based method is mainly the application of conditional independence (CI) tests, but the inaccuracy of CI tests in the case of high dimensionality and small samples has always been a problem for the constraint-based method. The score-based method uses the scoring function and search strategy to find the optimal candidate network structure, but the search space increases too much with the increase of the number of nodes, and the learning efficiency is very low. This paper presents a new hybrid algorithm, MCME (multiple compound memory erasing). This method retains the advantages of the first two methods, solves the shortcomings of the above CI tests, and makes innovations in the scoring function in the direction discrimination stage. A large number of experiments show that MCME has better or similar performance than some existing algorithms.

在贝叶斯网络（BNS）中，边缘方向对于因果推理和推理至关重要。然而，马尔可夫等价类考虑因素意味着它并不总是可以建立边缘方向，这就是许多BN结构学习算法不能从纯粹观察数据定向所有边缘的原因。此外，潜在的混乱会导致假阳性边缘。已经提出了相对较少的方法来解决这些问题。在这项工作中，我们介绍了从涉及观察数据集的离散数据和一个或多个介入数据集的离散数据的结构学习的混合MFGS-BS（Meance规则和快速贪婪等价搜索）算法。该算法假设存在潜在变量的因果不足，并产生部分祖先图形（PAG）。结构学习依赖于混合方法和新的贝叶斯评分范式，用于计算添加到学习图表的每个定向边缘的后验概率。基于众所周知的网络的实验结果高达109个变量和10K样本大小表明，MFGS-BS相对于最先进的结构提高了结构学习准确性，并且它是计算效率的。

贝叶斯网络是概率的图形模型，广泛用于了解高维数据的依赖关系，甚至促进因果发现。学习作为定向的非循环图（DAG）编码的底层网络结构是高度具有挑战性的，主要是由于大量可能的网络与非狭窄性约束结合。努力专注于两个前面：基于约束的方法，该方法执行条件独立测试，以排除具有贪婪或MCMC方案的DAG空间的边缘和分数和搜索方法。在这里，我们以一种新的混合方法综合这两个领域，这降低了基于约束方法的MCMC方法的复杂性。 MCMC方案中的各个步骤仅需要简单的表查找，以便可以有效地获得非常长的链。此外，该方案包括迭代过程，以校正来自条件独立测试的错误。该算法对替代方案提供了显着卓越的性能，特别是因为也可以从后部分布采样DAG，从而实现全面的贝叶斯模型为大量较大的贝叶斯网络进行平均。

在学习从观察数据中学习贝叶斯网络的图形结构是描述和帮助了解复杂应用程序中的数据生成过程的关键，而任务由于其计算复杂性而构成了相当大的挑战。代表贝叶斯网络模型的定向非循环图（DAG）通常不会从观察数据识别，并且存在各种方法来估计其等价类。在某些假设下，流行的PC算法可以通过测试条件独立（CI）一致地始终恢复正确的等价类，从边际独立关系开始，逐步扩展调节集。这里，我们提出了一种通过利用协方差与精密矩阵之间的反向关系来执行PC算法内的CI测试的新颖方案。值得注意的是，精密矩阵的元素与高斯数据的部分相关性。然后，我们的算法利用对协方差和精密矩阵的块矩阵逆转，同时对互补（或双）调节集的部分相关性进行测试。因此，双PC算法的多个CI测试首先考虑边缘和全阶CI关系并逐步地移动到中心顺序。仿真研究表明，双PC算法在运行时和恢复底层网络结构方面都优于经典PC算法。

We present a new algorithm for Bayesian network structure learning, called Max-Min Hill-Climbing (MMHC). The algorithm combines ideas from local learning, constraint-based, and search-and-score techniques in a principled and effective way. It first reconstructs the skeleton of a Bayesian network and then performs a Bayesian-scoring greedy hill-climbing search to orient the edges. In our extensive empirical evaluation MMHC outperforms on average and in terms of various metrics several prototypical and state-of-the-art algorithms, namely the PC, Sparse Candidate, Three Phase Dependency Analysis, Optimal Reinsertion, Greedy Equivalence Search, and Greedy Search. These are the first empirical results simultaneously comparing most of the major Bayesian network algorithms against each other. MMHC offers certain theoretical advantages, specifically over the Sparse Candidate algorithm, corroborated by our experiments. MMHC and detailed results of our study are publicly available at http://www.dsl-lab.org/supplements/mmhc paper/mmhc index.html.

贝叶斯网络（BN）的图形结构可以使用众所周知的得分和搜索方法从数据中学习。先前的工作表明，将条件概率分布（CPD）的结构化表示形式纳入得分和搜索方法可以提高学习图的准确性。在本文中，我们提出了一种能够学习BN图的新方法，并同时建模变量之间的线性和非线性局部概率关系。我们通过功能选择的组合来实现这一目标，以减少本地关系的搜索空间，并扩展得分和搜索方法，以将CPD模型纳入变量，作为多元自适应回归条纹（MARS）。火星是代表分段样条函数的多项式回归模型。我们在一组离散和连续的基准实例上显示，我们提出的方法可以提高学习图的准确性，同时扩展大量变量的实例。

使用详尽的搜索找到全球最佳的贝叶斯网络是超指定复杂性的问题，它严重限制了它可以使用的变量数量。我们实现了基于动态编程的算法，并具有内置维度降低和父集识别。这大大降低了搜索空间，可以应用于大维数据。我们使用所谓的基于世代订购的搜索对最佳网络的搜索，这是一种新颖的方式，可以有效地搜索可能的网络空间，并在可能的父母集合下进行搜索。该算法支持连续数据和分类数据，以及分类和生存结果。我们证明了算法对合成数据和真实数据的功效。在模拟中，我们的算法的性能优于目前广泛使用的三种最新算法。然后，我们将其应用于具有513个基因和生存结果的卵巢癌基因表达数据集。我们的算法能够找到一个最佳网络，描述了由6个基因组成的疾病途径，该基因在基本计算机上几分钟内导致结果节点。我们基于世代订购的最佳网络搜索是找到最佳贝叶斯网络的高效和高度可扩展的方法，可以应用于1000 s变量。使用特定的参数 - 相关性，FDR截止和内度 - 可以增加或减少网络的节点和密度的数量。提供两个评分期权BIC和BGE的可用性以及生存结果和混合数据类型的实施使我们的算法非常适合许多类型的高维生物医学数据，以找到疾病途径。

学习具有基于刻痕的解决方案的贝叶斯网络（BN）的结构涉及探索可能的图表的搜索空间并朝向最大化给定目标函数的图形移动。一些算法提供了确切的解决方案，可以保证以最高目标分数返回图形，而其他算法则提供近似解决方案以换取降低的计算复杂性。本文介绍了一种近似的BN结构学习算法，我们呼叫平均爬山（MAHC）的模型，相结合了两种与爬山搜索的新策略。该算法通过修剪图的搜索空间来开始，其中修剪策略可以被视为通常应用于组合优化结构学习问题的修剪策略的激进版本。然后，它在爬山搜索过程中执行模型平均值，并移动到相邻图，该曲线图平均为该相邻图和在所有有效的相邻图中最大化目标函数。与跨越不同学习类别的其他算法的比较表明，模型平均的攻击性修剪的组合既有效又有效，特别是在存在数据噪声。

本文解决了从高维离散数据中学习稀疏结构贝叶斯网络的问题。与连续的贝叶斯网络相比，由于较大的参数空间，学习离散的贝叶斯网络是一个具有挑战性的问题。尽管已经开发了许多用于学习连续贝叶斯网络的方法，但对于离散的网络，很少有人提出任何方法。在本文中，我们将学习贝叶斯网络作为优化问题，并提出一个分数函数，以确保学习结构为稀疏的定向无环图。此外，我们实现了一个块状随机坐标下降算法来优化分数函数。具体而言，我们在优化算法中使用降低方差方法来使该算法有效地用于高维数据。所提出的方法应用于众所周知的基准网络的合成数据。测量构造网络的质量，可扩展性和鲁棒性。与某些竞争方法相比，结果表明，我们的算法优于一些众所周知的建议方法。

本文提出了一种新的混合贝叶斯网络学习算法，称为前部滴下山坡爬山（FEDHC），设计为与连续或分类变量一起使用。具体地，对于连续数据的情况，提出了一种对FEDHC的强大的异常值，可以由其他BN学习算法采用。此外，纸张表明，统计软件\ Texit {R}中唯一的MMHC的实现是非常昂贵的，并且提供了新的实现。通过Monte Carlo模拟测试FEDHC，表明它是计算效率的明显，并产生与MMHC和PCHC相似的贝叶斯网络或更高的准确性。最后，使用统计软件\ Textit {R}，对来自经济学领域的FEDHC，PCHC和MMHC算法的应用到实际数据中的应用。

Bayesian networks (BNs) are a widely used graphical model in machine learning for representing knowledge with uncertainty. The mainstream BN structure learning methods require performing a large number of conditional independence (CI) tests. The learning process is very time-consuming, especially for high-dimensional problems, which hinders the adoption of BNs to more applications. Existing works attempt to accelerate the learning process with parallelism, but face issues including load unbalancing, costly atomic operations and dominant parallel overhead. In this paper, we propose a fast solution named Fast-BNS on multi-core CPUs to enhance the efficiency of the BN structure learning. Fast-BNS is powered by a series of efficiency optimizations including (i) designing a dynamic work pool to monitor the processing of edges and to better schedule the workloads among threads, (ii) grouping the CI tests of the edges with the same endpoints to reduce the number of unnecessary CI tests, (iii) using a cache-friendly data storage to improve the memory efficiency, and (iv) generating the conditioning sets on-the-fly to avoid extra memory consumption. A comprehensive experimental study shows that the sequential version of Fast-BNS is up to 50 times faster than its counterpart, and the parallel version of Fast-BNS achieves 4.8 to 24.5 times speedup over the state-of-the-art multi-threaded solution. Moreover, Fast-BNS has a good scalability to the network size as well as sample size. Fast-BNS source code is freely available at https://github.com/jjiantong/FastBN.

贝叶斯结构学习允许从数据推断贝叶斯网络结构，同时推理认识性不确定性 - 朝着实现现实世界系统的主动因果发现和设计干预的关键因素。在这项工作中，我们为贝叶斯结构学习（DIBS）提出了一般，完全可微分的框架，其在潜在概率图表表示的连续空间中运行。与现有的工作相反，DIBS对局部条件分布的形式不可知，并且允许图形结构和条件分布参数的关节后部推理。这使得我们的配方直接适用于复杂贝叶斯网络模型的后部推理，例如，具有由神经网络编码的非线性依赖性。使用DIBS，我们设计了一种高效，通用的变分推理方法，用于近似结构模型的分布。在模拟和现实世界数据的评估中，我们的方法显着优于关节后部推理的相关方法。

In this review, we discuss approaches for learning causal structure from data, also called causal discovery. In particular, we focus on approaches for learning directed acyclic graphs (DAGs) and various generalizations which allow for some variables to be unobserved in the available data. We devote special attention to two fundamental combinatorial aspects of causal structure learning. First, we discuss the structure of the search space over causal graphs. Second, we discuss the structure of equivalence classes over causal graphs, i.e., sets of graphs which represent what can be learned from observational data alone, and how these equivalence classes can be refined by adding interventional data.

社交网络（SN）是一个由代表它们之间相互作用的群体组成的社会结构。 SNS最近被广泛使用，随后已成为产品推广和信息扩散的合适平台。 SN中的人们直接影响彼此的利益和行为。 SNS中最重要的问题之一是，如果选择将它们作为网络扩散场景的种子节点选择，那么他们可以以级联的方式对网络中的其他节点产生最大影响。有影响力的扩散器是人们，如果他们被选为网络中出版问题中的种子，那么该网络将拥有最多了解该扩散实体的人。这是称为影响最大化（IM）问题的文献中的一个众所周知的问题。尽管已证明这是一个NP完整的问题，并且在多项式时间内没有解决方案，但有人认为它具有子模块化功能的属性，因此可以使用贪婪的算法来解决。提出改善这种复杂性的大多数方法都是基于以下假设：整个图都是可见的。但是，此假设不适合许多真实世界图。进行了这项研究，以扩展使用链接预测技术与伪可见性图的电流最大化方法。为此，将一种称为指数随机图模型（ERGM）的图生成方法用于链接预测。使用斯坦福大学SNAP数据集的数据对所提出的方法进行了测试。根据实验测试，所提出的方法在现实世界图上有效。

能够捕获与特征向量的时间序列的特征是具有多种应用的非常重要的任务，例如分类，聚类或预测。通常，该特征是从线性和非线性时间序列测量获得的特征，其可能存在若干数据相关的缺点。在这项工作中，我们将NetF介绍作为替代特征，包括时间序列的不同复杂网络映射的几种代表性拓扑测量。我们的方法不需要数据预处理，并且无论任何数据特征如何，都适用。探索我们的新颖特征向量，我们能够将映射的网络功能连接到多样化的时间序列模型中固有的属性，显示NetF可以有用的时间数据。此外，我们还展示了我们在聚类合成和基准时间序列组中的方法的适用性，比较其具有更多传统功能的性能，展示了Netf如何实现高精度集群。我们的结果非常有前途，具有来自不同映射方法的网络特征，捕获时间序列的不同属性，将不同且丰富的功能设置为文献。

考虑基于AI和ML的决策对这些新兴技术的安全和可接受的使用的决策的社会和道德后果至关重要。公平，特别是保证ML决定不会导致对个人或少数群体的歧视。使用因果关系，可以更好地实现和衡量可靠的公平/歧视，从而更好地实现了敏感属性（例如性别，种族，宗教等）之间的因果关系，仅仅是仅仅是关联，例如性别，种族，宗教等（例如，雇用工作，贷款授予等） ）。然而，对因果关系解决公平性的最大障碍是因果模型的不可用（通常表示为因果图）。文献中现有的因果关系方法并不能解决此问题，并假设可获得因果模型。在本文中，我们没有做出这样的假设，并且我们回顾了从可观察数据中发现因果关系的主要算法。这项研究的重点是因果发现及其对公平性的影响。特别是，我们展示了不同的因果发现方法如何导致不同的因果模型，最重要的是，即使因果模型之间的轻微差异如何对公平/歧视结论产生重大影响。通过使用合成和标准公平基准数据集的经验分析来巩固这些结果。这项研究的主要目标是强调因果关系使用因果关系适当解决公平性的因果发现步骤的重要性。