机器学习中最困难的任务是解释训练有素的浅神经网络。深度神经网络（DNNS）为更多的任务提供了令人印象深刻的结果，但是通常不清楚这种训练有素的深神经网络如何做出决策。提供特征重要性是浅层神经网络中使用的最重要和流行的解释技术。在本文中，我们开发了一种算法，扩展了Garson算法的思想，以解释基于信念网络的自动编码器（DBNA）。它用于确定DBN中每个输入特征的贡献。它可用于具有许多隐藏层的任何神经网络。该方法的有效性在分类和从文献中获取的回归数据集进行了测试。将此方法鉴定出的重要特征与Wald Chi Square（\ c {hi} 2）获得的特征进行了比较。对于4个分类数据集中的2个和5个回归数据集中的2个，我们提出的方法导致识别更好质量的特征，从而导致统计上更重要的结果，相对于wald \ c {hi} 2。

本文研究了与可解释的AI（XAI）实践有关的两个不同但相关的问题。机器学习（ML）在金融服务中越来越重要，例如预批准，信用承销，投资以及各种前端和后端活动。机器学习可以自动检测培训数据中的非线性和相互作用，从而促进更快，更准确的信用决策。但是，机器学习模型是不透明的，难以解释，这是建立可靠技术所需的关键要素。该研究比较了各种机器学习模型，包括单个分类器（逻辑回归，决策树，LDA，QDA），异质集合（Adaboost，随机森林）和顺序神经网络。结果表明，整体分类器和神经网络的表现优于表现。此外，使用基于美国P2P贷款平台Lending Club提供的开放式访问数据集评估了两种先进的事后不可解释能力 - 石灰和外形来评估基于ML的信用评分模型。对于这项研究，我们还使用机器学习算法来开发新的投资模型，并探索可以最大化盈利能力同时最大程度地降低风险的投资组合策略。

最近，为了在各个领域之间具有更好的可接受性，研究人员认为，机器智能算法必须能够提供人类可以在因果关系中理解的解释。这一方面也称为可控性，可以达到特定水平的人类水平解释性。一种称为反事实的特定算法可能能够提供可有效性。在统计数据中，因果关系已被研究和应用多年，但在人工智能（AI）方面尚未详细介绍。在首次研究的研究中，我们采用了因果推理的原则来提供解释性来解决分析客户关系管理（ACRM）问题。在银行和保险的背景下，有关解释性的当前研究试图解决与因果关系有关的问题，例如为什么该模型做出这样的决定，并且该模型的选择是否受到特定因素的影响？我们提出了一种以干预形式的解决方案，其中研究了目标特征的ACRM数据集特征分布的效果。随后，还获得了一套反事实，可以向任何需要解释银行/保险公司做出的决定的客户提供。除了信用卡流失预测数据集外，还为贷款默认，保险欺诈检测和信用卡欺诈检测数据集生成了高质量的反事实，其中观察到不超过三个功能的变化。

几十年来，对信用违约风险的预测一直是一个重要的研究领域。传统上，由于其准确性和解释性，逻辑回归被广泛认为是解决方案。作为最近的趋势，研究人员倾向于使用更复杂和高级的机器学习方法来提高预测的准确性。尽管某些非线性机器学习方法具有更好的预测能力，但通常认为它们缺乏金融监管机构的解释性。因此，它们尚未被广泛应用于信用风险评估中。我们引入了一个具有选择性选项的神经网络，以通过区分数据集来通过线性模型来解释，以提高可解释性。我们发现，对于大多数数据集，逻辑回归将足够，准确性合理。同时，对于某些特定的数据部分，浅神经网络模型可以提高精确度，而无需显着牺牲可解释性。

血浆定义为物质的第四个状态，在高电场下可以在大气压下产生非热血浆。现在众所周知，血浆激活液体（PAL）的强和广谱抗菌作用。机器学习（ML）在医疗领域的可靠适用性也鼓励其在等离子体医学领域的应用。因此，在PALS上的ML应用可以提出一种新的观点，以更好地了解各种参数对其抗菌作用的影响。在本文中，通过使用先前获得的数据来定性预测PAL的体外抗菌活性，从而介绍了比较监督的ML模型。进行了文献搜索，并从33个相关文章中收集了数据。在所需的预处理步骤之后，将两种监督的ML方法（即分类和回归）应用于数据以获得微生物灭活（MI）预测。对于分类，MI分为四类，对于回归，MI被用作连续变量。为分类和回归模型进行了两种不同的可靠交叉验证策略，以评估所提出的方法。重复分层的K折交叉验证和K折交叉验证。我们还研究了不同特征对模型的影响。结果表明，高参数优化的随机森林分类器（ORFC）和随机森林回归者（ORFR）分别比其他模型进行了分类和回归的模型更好。最后，获得ORFC的最佳测试精度为82.68％，ORFR的R2为0.75。 ML技术可能有助于更好地理解在所需的抗菌作用中具有主要作用的血浆参数。此外，此类发现可能有助于将来的血浆剂量定义。

多年来，机器学习方法一直在各种领域（包括计算机视觉和自然语言处理）中使用。尽管机器学习方法比传统方法显着改善了模型性能，但它们的黑盒结构使研究人员难以解释结果。对于高度监管的金融行业，透明度，解释性和公平性同样重要，甚至比准确性重要。没有满足受管制要求的情况，即使是高度准确的机器学习方法也不太可能被接受。我们通过引入一种新颖的透明和可解释的机器学习算法来解决这个问题，称为神经添加剂模型的通用手套。神经添加剂模型的广义手套将特征分为三类：线性特征，单个非线性特征和相互作用的非线性特征。此外，最后类别中的交互仅是本地的。线性和非线性组件通过逐步选择算法区分，并通过应用加法分离标准仔细验证相互作用的组。经验结果表明，神经添加剂模型的广义手套可通过最简单的体系结构提供最佳的精度，从而可以采用高度准确，透明且可解释的机器学习方法。

机器学习算法可以在当代智能系统中进行高级决策。研究表明，它们的模型性能与解释性之间存在权衡。具有较高性能的机器学习模型通常基于更复杂的算法，因此缺乏解释性，反之亦然。但是，从最终用户的角度来看，这种权衡几乎没有经验证据。我们旨在通过进行两个用户实验来提供经验证据。使用两个不同的数据集，我们首先测量五种常见的机器学习算法的权衡。其次，我们解决了最终用户对可解释的人工智能增强的看法的问题，旨在增加对高性能复杂模型的决策逻辑的理解。我们的结果与权衡曲线的广泛假设有所不同，并表明模型性能和解释性之间的权衡在最终用户的感知中逐渐少得多。这与假定的固有模型可解释性形成鲜明对比。此外，我们发现折衷是由于数据复杂性而成为情境。我们的第二次实验的结果表明，尽管可以使用可解释的人工智能增强来提高解释性，但解释的类型在最终用户感知中起着至关重要的作用。

人工智能（AI）和机器学习（ML）在网络安全挑战中的应用已在行业和学术界的吸引力，部分原因是对关键系统（例如云基础架构和政府机构）的广泛恶意软件攻击。入侵检测系统（IDS）使用某些形式的AI，由于能够以高预测准确性处理大量数据，因此获得了广泛的采用。这些系统托管在组织网络安全操作中心（CSOC）中，作为一种防御工具，可监视和检测恶意网络流，否则会影响机密性，完整性和可用性（CIA）。 CSOC分析师依靠这些系统来决定检测到的威胁。但是，使用深度学习（DL）技术设计的IDS通常被视为黑匣子模型，并且没有为其预测提供理由。这为CSOC分析师造成了障碍，因为他们无法根据模型的预测改善决策。解决此问题的一种解决方案是设计可解释的ID（X-IDS）。这项调查回顾了可解释的AI（XAI）的最先进的ID，目前的挑战，并讨论了这些挑战如何涉及X-ID的设计。特别是，我们全面讨论了黑匣子和白盒方法。我们还在这些方法之间的性能和产生解释的能力方面提出了权衡。此外，我们提出了一种通用体系结构，该建筑认为人类在循环中，该架构可以用作设计X-ID时的指南。研究建议是从三个关键观点提出的：需要定义ID的解释性，需要为各种利益相关者量身定制的解释以及设计指标来评估解释的需求。

人工智能（AI）使机器能够从人类经验中学习，适应新的输入，并执行人类的人类任务。 AI正在迅速发展，从过程自动化到认知增强任务和智能流程/数据分析的方式转换业务方式。然而，人类用户的主要挑战是理解和适当地信任AI算法和方法的结果。在本文中，为了解决这一挑战，我们研究并分析了最近在解释的人工智能（XAI）方法和工具中所做的最新工作。我们介绍了一种新颖的XAI进程，便于生产可解释的模型，同时保持高水平的学习性能。我们提出了一种基于互动的证据方法，以帮助人类用户理解和信任启用AI的算法创建的结果和输出。我们在银行域中采用典型方案进行分析客户交易。我们开发数字仪表板以促进与算法的互动结果，并讨论如何提出的XAI方法如何显着提高数据科学家对理解启用AI的算法结果的置信度。

预测经济的短期动态 - 对经济代理商决策过程的重要意见 - 经常在线性模型中使用滞后指标。这通常在正常时期就足够了，但在危机期间可能不足。本文旨在证明，在非线性机器学习方法的帮助下，非传统和及时的数据（例如零售和批发付款）可以为决策者提供复杂的模型，以准确地估算几乎实时的关键宏观经济指标。此外，我们提供了一组计量经济学工具，以减轻机器学习模型中的过度拟合和解释性挑战，以提高其政策使用的有效性。我们的模型具有付款数据，非线性方法和量身定制的交叉验证方法，有助于提高宏观经济的启示准确性高达40 \％ - 在COVID-19期间的增长较高。我们观察到，付款数据对经济预测的贡献很小，在低和正常增长期间是线性的。但是，在强年或正增长期间，付款数据的贡献很大，不对称和非线性。

学术研究和金融业最近引起了机器学习算法，因为他们的权力解决了复杂的学习任务。然而，在公司的默认预测领域，缺乏可解释性阻止了广泛采用了黑箱类型的模型。为了克服这一缺点并保持黑盒的高性能，本文依赖于模型 - 无症方法。累计的本地效果和福芙值用于塑造预测因子对默认可能性的影响，并根据其对模型结果的贡献进行排名。与三种标准判别模型相比，通过两个机器学习算法（极端梯度升压和前馈神经网络）实现了预测。结果表明，我们对意大利中小企业制造业的分析通过极端梯度提升算法从整体最高分类功率的优势，而不放弃丰富的解释框架。

本文提出了一种称为前向组合传播（FCP）的算法，以说明在结构化模式识别问题上运行的前馈神经网络的预测。在所提出的FCP算法中，每个神经元由表示该神经元中的每个问题特征的作用的组合载体描述。使用给定的输入实例初始化构成向量，随后通过整个网络传播，直到我们到达输出层。值得一提的是，一旦完成网络的训练网络，就会执行该算法。每个组成值的符号指示相应的特征是否激发或抑制神经元，而绝对值会定量这种影响。旨在验证FCP算法的正确性，我们开发了一个关于偏见检测的案例研究，在其最先进的问题中，地面真理是已知的。仿真结果表明，构图值与保护特征的预期行为密切对齐。

我们在数字世界中采取的每一步都会落后于我们行为的记录;数字足迹。研究表明，算法可以将这些数字足迹转化为精确的心理特征估计，包括人格特质，心理健康或情报。然而，AI产生这些见解的机制通常保持不透明。在本文中，我们展示了如何解释AI（XAI）可以帮助域专家和数据主体验证，问题和改进分类数字足迹的心理特征的模型。我们在来自金融交易数据的大五个人格预测（特征和方面）的范围内，详细说明了两个流行的XAI方法（规则提取和反事实解释）（n = 6,408）。首先，我们展示了全球规则提取在模型中标识的消费模式中如何阐明了最重要的人格，并讨论这些规则如何用于解释，验证和改进模型。其次，我们实施当地规则提取，以表明，由于其独特的财务行为，个人分配给个性课程，并且模型的预测信心与促进预测的特征数量之间存在积极的联系。我们的实验突出了全球和本地XAI方法的重要性。通过更好地了解预测模型如何工作，以及他们如何获得特定人的结果，Xai促进了一个世界的问责制，其中AI影响了世界各地数十亿人的生命。

目的：我们研究使用机器学习（ML）模型的可解释的累入预测，并在预测能力，稀疏性和公平性方面分析性能。与以前的作品不同，本研究列举了输出概率而不是二进制预测的可解释模型，并使用定量公平定义来评估模型。本研究还研究了模型是否可以横跨地理位置概括。方法：我们在佛罗里达州和肯塔基州的两个不同的刑事核查数据集上生成了黑盒和可解释的ML模型。我们将这些模型的预测性能和公平与目前用于司法系统中使用的两种方法进行了比较，以预测审前常规率：Arnold PSA和Compas。我们评估了所有模型的预测性能，可以在两次跨越两次预测六种不同类型犯罪的模型。结果：几种可解释的ML模型可以预测常规和黑盒ML模型，比Compas或Arnold PSA更准确。这些模型在实践中可能有用。类似于Arnold PSA，这些可解释模型中的一些可以作为一个简单的表格写入。其他可以使用一组可视化显示。我们的地理分析表明ML模型应分开培训，以便单独的位置并随时间更新。我们还为可​​解释模型提供了公平分析。结论：可解释的机器学习模型可以在预测准确性和公平性方面表现，也可以表现，也可以表现，也可以执行不可解释的方法和目前使用的风险评估尺度。机器学习模型对于单独培训，可以更准确地进行不同的位置，并保持最新。

目前在社会和工业中广泛部署了模式分类问题的机器学习解决方案。然而，缺乏最准确的模型的透明度和问责制经常阻碍他们的安全使用。因此，显然需要开发可解释的人工智能机制。存在总结特征贡献的模型 - 不可知方法，但其可解释性仅限于由黑匣子型号制作的预测。开放挑战是开发具有内在解释性的模型，并产生自己的解释，即使对于传统上被视为（经常性）神经网络等黑匣子的模型的类别。在本文中，我们向结构化数据的可解释模式分类提出了一种长期认知网络。我们的方法通过量化决策过程中每个特征的相关性来提供自己的机制来提供解释。为了在不影响性能的情况下支持解释性，该模型通过允许控制非线性的准非线性推理规则来包含更多的灵活性。此外，我们提出了一种重复感知的决策模型，避免了独特的定点所带来的问题，同时引入确定性学习算法来计算可调参数。模拟表明，与最先进的白色和黑匣子型号相比，我们的可解释模型获得了竞争力。

数十年来，对信用违约风险的预测一直是一个积极的研究领域。从历史上看，逻辑回归由于遵守法规要求而被用作主要工具：透明度，解释性和公平性。近年来，研究人员越来越多地使用复杂和先进的机器学习方法来提高预测准确性。即使机器学习方法可以潜在地提高模型的准确性，但它会使简单的逻辑回归复杂化，会使解释性恶化并经常违反公平性。在没有法规要求的情况下，公司即使是高度准确的机器学习方法也不太可能被公司接受信用评分。在本文中，我们介绍了一类新颖的单调神经添加剂模型，这些模型通过简化神经网络体系结构并实施单调性来满足调节要求。通过利用神经添加剂模型的特殊体系结构特征，单调神经添加剂模型有效地违反了单调性。因此，训练的计算成本单调神经添加剂模型类似于训练神经添加剂模型的计算成本，作为免费午餐。我们通过经验结果证明，我们的新模型与Black-Box完全连接的神经网络一样准确，提供了一种高度准确且受调节的机器学习方法。

这项工作提供了可靠的nids（R-nids），一种新的机器学习方法（ML）的网络入侵检测系统（NIDS），允许ML模型在集成数据集上工作，从不同数据集中具有不同信息的学习过程。因此，R-NIDS针对更强大的模型的设计，比传统方法更好地概括。我们还提出了一个名为UNK21的新数据集。它是由三个最着名的网络数据集（UGR'16，USNW-NB15和NLS-KDD）构建，每个网络环境收集，使用不同的特征和类，通过使用数据聚合方法R-nids。在r-nids之后，在这项工作中，我们建议基于文献中的三个最常见的数据集的信息来构建两个着名的ML模型（一个线性和非线性的一个），用于NIDS评估中的三个，集成在UNK21中的那些。所提出的方法优惠展示了作为NIDS解决方案训练的两种ML模型的结果可以从这种方法中受益，在新提议的UNK21数据集上培训时能够更好地概括。此外，这些结果用统计工具仔细分析了对我们的结论提供了高度信心的统计工具。

We introduce a family of interpretable machine learning models, with two broad additions: Linearised Additive Models (LAMs) which replace the ubiquitous logistic link function in General Additive Models (GAMs); and SubscaleHedge, an expert advice algorithm for combining base models trained on subsets of features called subscales. LAMs can augment any additive binary classification model equipped with a sigmoid link function. Moreover, they afford direct global and local attributions of additive components to the model output in probability space. We argue that LAMs and SubscaleHedge improve the interpretability of their base algorithms. Using rigorous null-hypothesis significance testing on a broad suite of financial modelling data, we show that our algorithms do not suffer from large performance penalties in terms of ROC-AUC and calibration.

天然气管道中的泄漏检测是石油和天然气行业的一个重要且持续的问题。这尤其重要，因为管道是运输天然气的最常见方法。这项研究旨在研究数据驱动的智能模型使用基本操作参数检测天然气管道的小泄漏的能力，然后使用现有的性能指标比较智能模型。该项目应用观察者设计技术，使用回归分类层次模型来检测天然气管道中的泄漏，其中智能模型充当回归器，并且修改后的逻辑回归模型充当分类器。该项目使用四个星期的管道数据流研究了五个智能模型（梯度提升，决策树，随机森林，支持向量机和人工神经网络）。结果表明，虽然支持向量机和人工神经网络比其他网络更好，但由于其内部复杂性和所使用的数据量，它们并未提供最佳的泄漏检测结果。随机森林和决策树模型是最敏感的，因为它们可以在大约2小时内检测到标称流量的0.1％的泄漏。所有智能模型在测试阶段中具有高可靠性，错误警报率为零。将所有智能模型泄漏检测的平均时间与文献中的实时短暂模型进行了比较。结果表明，智能模型在泄漏检测问题中的表现相对较好。该结果表明，可以与实时瞬态模型一起使用智能模型，以显着改善泄漏检测结果。

最近，在以结果为导向的预测过程监测（OOPPM）的领域进行了转变，以使用可解释的人工智能范式中的模型，但是评估仍然主要是通过基于绩效的指标来进行的，而不是考虑到启示性和缺乏可行性。解释。在本文中，我们通过解释的解释性（通过广泛使用的XAI属性和功能复杂性）和解释性模型的忠诚（通过单调性和分歧的水平）来定义解释性。沿事件，情况和控制流透视图分析了引入的属性，这些视角是基于过程的分析的典型代表。这允许定量比较，除其他外，固有地创建了用事后解释（例如Shapley值）（例如Shapley值）的固有创建的解释（例如逻辑回归系数）。此外，本文通过洞悉如何在OOPPM中典型的OOPPM中典型的变化预处理，模型的复杂性和事后解释性技术来撰写基于事件日志和手头的任务的准则，以根据事件日志规范和手头的任务选择适当的模型，以根据事件日志规范和手头任务选择适当的模型。影响模型的解释性。为此，我们在13个现实生活事件日志上基准了七个分类器。