在决策过程中使用机器学习技术时，模型的解释性很重要。Shapley添加说明（SHAP）是机器学习模型最有前途的解释方法之一。当一个变量的效果取决于另一个变量的值时，就会发生交互作用。即使每个变量对结果几乎没有影响，其组合也会对结果产生大量影响。了解互动对于理解机器学习模型很重要。但是，天真的外形分析无法区分主要效果和相互作用效果。在本文中，我们将Shapley-Taylor索引作为一种解释方法，用于使用Shap考虑相互作用效果的机器学习模型。我们将该方法应用于京都大学医院的癌症队列数据（n = 29,080），以分析哪种因素组合有助于结肠癌的风险。

在决策过程中使用机器学习技术时，模型的可解释性很重要。在本文中，我们采用了福利添加剂解释（Shap），这是根据许多利益相关者之间的公平利润分配，根据其贡献，用于解释使用医院数据的渐变升级决策树模型。为了更好地解释，我们提出了如下的三种新技术：（1）使用SHAC和（2）所谓的特征包的特征重要性的新度量，该技术被称为一个分组的特征，以允许更容易地了解模型没有模型的重建。然后，将解释结果与Shap框架和现有方法进行比较。此外，我们展示了A / G比如何使用医院数据和所提出的技术作为脑梗死的重要预后因素。

背景：几项研究突出了考虑急性冠状动脉综合征（ACS）诊断和治疗性差异的重要性。然而，几乎已经研究了ACS子群中的性别特异性风险标志物。本研究旨在探索机器学习（ML）模型，以识别从电子健康记录（EHR）的公共数据库中的ACS子群体中的妇女和男性的住院死亡率标志。方法：从医疗信息MART中提取1,299名患有的ST升高的心肌梗死（Stemi）和2,820名非St-Expation心肌梗死患者进行重症监护（MIMIC）-III数据库。我们培训和验证了死亡率预测模型，并使用了可解释性技术来识别每个子群体的性别特异性标记。结果：基于极端梯度升压的模型（XGBoost）实现了最高性能：STEMI和AUC = 0.94（95 \％CI：0.80- 0.90）为nstemi。对于STEMI，女性的顶部标记是慢性肾功能衰竭，心率高，年龄超过70岁。对于男性来说，顶部标记是急性肾功能衰竭，高肌钙蛋白T水平，年龄超过75岁。然而，对于NStemi，女性的顶部标记较低，肌钙蛋白水平低，尿素水平高，80多年。对于男性来说，顶部标记是高心率，肌酐水平，年龄超过70岁。结论：我们的结果表明，通过解释ehrs培训的ML死亡率模型，通过解释ML死亡率模型显示不同ACS子群的可能的显着和相干的性别特异性风险标记。在妇女与男性的确定风险标志中观察到差异，突出了考虑性别特异性标记在实施更适当的治疗策略和更好的临床结果方面的重要性。

即使有效，模型的使用也必须伴随着转换数据的各个级别的理解（上游和下游）。因此，需求增加以定义单个数据与算法可以根据其分析可以做出的选择（例如，一种产品或一种促销报价的建议，或代表风险的保险费率）。模型用户必须确保模型不会区分，并且也可以解释其结果。本文介绍了模型解释的重要性，并解决了模型透明度的概念。在保险环境中，它专门说明了如何使用某些工具来强制执行当今可以利用机器学习的精算模型的控制。在一个简单的汽车保险中损失频率估计的示例中，我们展示了一些解释性方法的兴趣，以适应目标受众的解释。

We introduce the XPER (eXplainable PERformance) methodology to measure the specific contribution of the input features to the predictive or economic performance of a model. Our methodology offers several advantages. First, it is both model-agnostic and performance metric-agnostic. Second, XPER is theoretically founded as it is based on Shapley values. Third, the interpretation of the benchmark, which is inherent in any Shapley value decomposition, is meaningful in our context. Fourth, XPER is not plagued by model specification error, as it does not require re-estimating the model. Fifth, it can be implemented either at the model level or at the individual level. In an application based on auto loans, we find that performance can be explained by a surprisingly small number of features. XPER decompositions are rather stable across metrics, yet some feature contributions switch sign across metrics. Our analysis also shows that explaining model forecasts and model performance are two distinct tasks.

机器学习渗透到许多行业，这为公司带来了新的利益来源。然而，在人寿保险行业中，机器学习在实践中并未被广泛使用，因为在过去几年中，统计模型表明了它们的风险评估效率。因此，保险公司可能面临评估人工智能价值的困难。随着时间的流逝，专注于人寿保险行业的修改突出了将机器学习用于保险公司的利益以及通过释放数据价值带来的利益。本文回顾了传统的生存建模方法论，并通过机器学习技术扩展了它们。它指出了与常规机器学习模型的差异，并强调了特定实现在与机器学习模型家族中面对审查数据的重要性。在本文的补充中，已经开发了Python库。已经调整了不同的开源机器学习算法，以适应人寿保险数据的特殊性，即检查和截断。此类模型可以轻松地从该SCOR库中应用，以准确地模拟人寿保险风险。

探索黑盒机器学习（ML）模型的重要技术称为Shap（Shapley添加说明）。Shap值以公平的方式将预测分解为功能的贡献。我们将证明，对于具有添加性建模的一些或所有功能的增强树模型，此类特征的外形依赖图与其部分依赖图相对应，直到垂直移动。我们用XGBoost说明了结果。

Besides accuracy, recent studies on machine learning models have been addressing the question on how the obtained results can be interpreted. Indeed, while complex machine learning models are able to provide very good results in terms of accuracy even in challenging applications, it is difficult to interpret them. Aiming at providing some interpretability for such models, one of the most famous methods, called SHAP, borrows the Shapley value concept from game theory in order to locally explain the predicted outcome of an instance of interest. As the SHAP values calculation needs previous computations on all possible coalitions of attributes, its computational cost can be very high. Therefore, a SHAP-based method called Kernel SHAP adopts an efficient strategy that approximate such values with less computational effort. In this paper, we also address local interpretability in machine learning based on Shapley values. Firstly, we provide a straightforward formulation of a SHAP-based method for local interpretability by using the Choquet integral, which leads to both Shapley values and Shapley interaction indices. Moreover, we also adopt the concept of $k$-additive games from game theory, which contributes to reduce the computational effort when estimating the SHAP values. The obtained results attest that our proposal needs less computations on coalitions of attributes to approximate the SHAP values.

基于树的算法，如随机森林和渐变增强树，继续成为多学科最受欢迎和强大的机器学习模型之一。估计基于树模型中特征的影响的传统智慧是测量\脑缩小{节目减少损失函数}，（i）仅收集全球重要性措施和（ii）遭受严重影响偏见。条件特征贡献（CFC）通过遵循决策路径并将模型的预期输出的更改归因于路径的每个功能，提供对预测的\ yourceit {local}，逐个案例说明。但是，Lundberg等人。指出了CFC的潜在偏见，这取决于与树根的距离。现在是现在非常受欢迎的替代方案，福芙添加剂解释（Shap）值似乎减轻了这种偏差，但计算得多更昂贵。在这里，我们有助于对两种公开可用的分类问题的两种方法计算的解释进行了彻底的比较，以便向当前研究人员提供数据驱动算法的建议。对于随机森林，我们发现本地和全球形状值和CFC分数的极高相似之处和相关性，导致非常相似的排名和解释。类似的结论对于使用全局特征重要性分数的保真度作为与每个特征相关的预测电力的代理。

目的：Shapley添加说明（SHAP）是一种流行的事后技术，用于解释黑匣子模型。尽管已经对数据不平衡对预测模型的影响进行了广泛的研究，但在基于Shap的模型解释方面，它在很大程度上仍然未知。这项研究试图研究数据不平衡对深度学习模型的Shap解释的影响，并提出一种减轻这些影响的策略。材料和方法：我们建议在解释黑匣子模型时在背景中调整类别的类别，并在形状中进行解释数据。我们的数据平衡策略是构成背景数据和解释数据，同等分布。为了评估数据调整对模型解释的影响，我们建议将Beeswarm图用作定性工具，以识别“异常”解释伪像，并定量测试可变重要性和预测能力之间的一致性。我们在一项实证研究中证明了我们提出的方法，该研究使用医学信息MART（MIMIC-III）数据预测住院死亡率和多层概念。结果：使用数据平衡策略将使我们能够减少蜜蜂图图中的工件数量，从而减轻数据不平衡的负面影响。此外，通过平衡策略，来自相应重要性排名的顶级变量表明歧视能力得到了改善。讨论和结论：我们的发现表明，平衡的背景和解释数据可以帮助减少偏斜的数据分布引起的解释结果中的噪声，并提高可变重要性排名的可靠性。此外，这些平衡程序提高了在临床应用中识别出异常特征的患者方面的可能性。

使用福利值的添加特征说明已经成为为每个特征的相对重要性提供给机器学习模型的个人预测的透明度。虽然福利值在合作博弈论中提供了独特的添加剂特征归因，但即使是单机学习模型也可以生成的福利值远非独特，具有影响所产生的血统的理论和实施决策。在这里，我们考虑福利值的应用解释决策树集合，并提出了一种可以应用于随机林和提升决策树的基于福芙值的特征归属的新方法。这种新方法提供了准确地反映各个实例的模型预测算法的细节的属性，同时使用最广泛使用的当前方法之一进行计算竞争。我们解释了标准和新颖方法之间的理论差异，并使用合成和实数据进行比较它们的绩效。

神经科学研究的一种基本方法是基于神经心理学和行为措施，即某些因素（例如，与生活事件相关）是否与结果（例如抑郁症）有关。近年来，深度学习已成为通过预测一系列因素的结果并确定推动预测的最“信息性”的结果，成为进行此类分析的潜在替代方法。但是，这种方法的影响有限，因为其发现与支持假设的因素的统计意义无关。在本文中，我们根据排列测试的概念提出了一种灵活且可扩展的方法，该方法将假设检验集成到数据驱动的深度学习分析中。我们将我们的方法应用于对青春期酒精和神经发育联盟（NCANDA）的621名青少年参与者的年度自我报告评估，以预测负面价，这是根据NIMH研究领域标准（RDOC）的重大抑郁症的症状。我们的方法成功地识别了进一步解释症状的危险因素类别。

风险评分广泛用于临床决策，通常由逻辑回归模型产生。基于机器学习的方法可以很好地识别重要的预测因子，但这种“黑匣子”变量选择限制解释性，并且从单个模型评估的可变重要性可以偏置。我们提出了一种强大而可解释的可解释的可解释选择方法，使用最近开发的福利可变重要性云（福利维奇）占模型的可变性。我们的方法评估和可视化了深入推理和透明变量选择的总变量贡献，并过滤出非重要贡献者来简化模型构建步骤。我们从可变贡献中获得了一个集合变量排名，这很容易与自动化和模块化的风险分数发生器，自动摩托，以方便的实现。在对早期死亡或意外再入住的研究中，福糖选定了6个候选变量中的6个，以创建一个良好的性能，从机器学习的排名到一个16变量模型具有类似的性能。

口服食物挑战（OFC）对于准确诊断患者的食物过敏至关重要。但是，患者不愿接受OFC，对于那些这样做的患者，在农村/社区医疗保健环境中，对过敏症患者的使用率有限。通过机器学习方法对OFC结果的预测可以促进在家中食品过敏原的删除，在OFC中改善患者和医师的舒适度，并通过最大程度地减少执行的OFC的数量来节省医疗资源。临床数据是从共同接受1,284个OFC的1,12例患者那里收集的，包括临床因素，包括血清特异性IgE，总IgE，皮肤刺测试（SPTS），症状，性别和年龄。使用这些临床特征，构建了机器学习模型，以预测花生，鸡蛋和牛奶挑战的结果。每种过敏原的最佳性能模型是使用凹入和凸内核（LUCCK）方法创建的，该方法在曲线（AUC）（AUC）下分别用于花生，鸡蛋和牛奶OFC预测为0.76、0.68和0.70， 。通过Shapley添加说明（SHAP）的模型解释表明，特定的IgE以及SPTS的Wheal和Flare值高度预测了OFC结果。该分析的结果表明，机器学习有可能预测OFC结果，并揭示了相关的临床因素进行进一步研究。

The issue of left before treatment complete (LBTC) patients is common in emergency departments (EDs). This issue represents a medico-legal risk and may cause a revenue loss. Thus, understanding the factors that cause patients to leave before treatment is complete is vital to mitigate and potentially eliminate these adverse effects. This paper proposes a framework for studying the factors that affect LBTC outcomes in EDs. The framework integrates machine learning, metaheuristic optimization, and model interpretation techniques. Metaheuristic optimization is used for hyperparameter optimization--one of the main challenges of machine learning model development. Three metaheuristic optimization algorithms are employed for optimizing the parameters of extreme gradient boosting (XGB), which are simulated annealing (SA), adaptive simulated annealing (ASA), and adaptive tabu simulated annealing (ATSA). The optimized XGB models are used to predict the LBTC outcomes for the patients under treatment in ED. The designed algorithms are trained and tested using four data groups resulting from the feature selection phase. The model with the best predictive performance is interpreted using SHaply Additive exPlanations (SHAP) method. The findings show that ATSA-XGB outperformed other mode configurations with an accuracy, area under the curve (AUC), sensitivity, specificity, and F1-score of 86.61%, 87.50%, 85.71%, 87.51%, and 86.60%, respectively. The degree and the direction of effects of each feature were determined and explained using the SHAP method.

与经典的统计学习方法相比，机器和深度学习生存模型表现出相似甚至改进事件的预测能力，但太复杂了，无法被人类解释。有几种模型不合时宜的解释可以克服这个问题。但是，没有一个直接解释生存函数预测。在本文中，我们介绍了Survhap（t），这是第一个允许解释生存黑盒模型的解释。它基于Shapley添加性解释，其理论基础稳定，并在机器学习从业人员中广泛采用。拟议的方法旨在增强精确诊断和支持领域的专家做出决策。关于合成和医学数据的实验证实，survhap（t）可以检测具有时间依赖性效果的变量，并且其聚集是对变量对预测的重要性的决定因素，而不是存活。 survhap（t）是模型不可屈服的，可以应用于具有功能输出的所有型号。我们在http://github.com/mi2datalab/survshap中提供了python中时间相关解释的可访问实现。

Ridesplitting是合并的骑乘服务的一种形式，具有减轻骑行对环境的负面影响的巨大潜力。但是，大多数现有研究仅根据优化模型和仿真探索其理论环境益处。相比之下，这项研究旨在揭示基于观察到的中国骑车数据的数据及其决定因素的现实世界排放减少。本研究将Trip数据与Copert模型整合在一起，计算了共享乘车的CO2排放量（Ridesplitting）及其取代的单骑行（常规乘车），以估计每次骑行旅行的CO2排放降低。结果表明，并非所有的骑行旅行都减少了现实世界中的骑车的排放。二氧化碳的降低速度降低速率因行程到旅行而异，平均为43.15g/km。然后，应用可解释的机器学习模型，梯度提升机，用于探索二氧化碳排放率降低速度的关系及其决定因素之间的关系。基于Shapley添加剂解释（SHAP）方法，共享乘车的重叠率和弯路率被确定为确定二氧化碳排放率降低乘车率的最重要因素。增加重叠率，共享乘车的数量，平均速度和行驶距离比率，同时降低弯路率，实际行程距离和行驶距离差距可以增加二氧化碳排放率的降低骑行率。另外，通过部分依赖图研究了决定因素的非线性效应和相互作用。总而言之，这项研究为政府和骑车公司提供了一种科学方法，以更好地评估和优化乘车的环境利益。

我们通过将回归或分类函数的全局解释分解为主组件和任意顺序的相互作用组件的总和。当添加由因果解释激励的识别约束时，我们发现Q交互作用是该约束的独特解决方案。在这里，Q表示分解中存在的最高相互作用。我们的结果为具有各种实践和理论含义的外形值提供了新的视角：如果将塑形值分解为主要和所有相互作用效应，它们提供了带有因果解释的全球解释。原则上，分解可以应用于任何机器学习模型。但是，由于可能的相互作用的数量随特征的数量呈指数增长，因此精确的计算仅对于适合低维结构或这些组合的方法可行。我们为梯度增压树提供了一种算法和有效的实施（Xgboost和随机种植的森林，计算出这种分解。进行的实验表明，我们的方法提供了有意义的解释，并揭示了更高阶的相互作用。我们还通过利用新见解的进一步的潜力来利用新见解的进一步的潜力。全球解释，用于激励特征重要性的新量度，以及通过删除事后删除来减少直接和间接偏见。

在可解释的机器学习中，当地的事后解释算法和固有的可解释模型通常被视为竞争方法。在这项工作中，提供了有关Shapley Values的新颖观点，即Shapley Values，这是一种突出的事后解释技术，并表明它与玻璃盒 - 玻璃盒 - gams密切相关，Glassbox-Gam是一种流行的可解释模型。我们介绍了$ n $ -Shapley值，这是Shapley值的自然扩展，该值解释了具有交互条款的个人预测，直到$ n $。随着$ n $的增加，$ n $ shapley的值会收敛于Shapley-Gam，这是原始功能的独特确定分解。从Shapley-GAM中，我们可以计算出任意秩序的Shapley值，从而确切的见解对这些解释的局限性。然后，我们证明Shapley值恢复了订单$ n $的通用添加剂模型，假设我们允许交互条款在解释中订购$ n $。这意味着原始的Shapley值恢复了玻璃盒煤气。在技​​术端，我们表明，选择值函数的不同方式与原始函数的不同功能分解之间存在一对一的对应关系。这为如何选择值函数的问题提供了一个新的观点。我们还对各种标准分类器中存在的可变相互作用程度进行了经验分析，并讨论了我们结果对算法解释的含义。一个用于计算$ n $ shapley值的Python软件包，并在本文中复制结果，请访问\ url {https://github.com/tml-tuebingen/nshap}。

Systemic Lupus红斑（SLE）是一种罕见的自身免疫疾病，其特征是令人无法预测的耀斑和缓解的速度，具有不同的表现形式。狼疮性肾炎，SLE用于器官损伤和死亡率的主要疾病表现之一，是卢布斯分类标准的关键组成部分。因此，准确地鉴定电子健康记录（EHRS）中的狼疮性肾炎将使大型队列观察研究和临床试验有益于患者人口的表征对于招聘，研究设计和分析至关重要。可以通过程序代码和结构化数据来认可狼疮肾炎，例如实验室测试。然而，记录狼疮肾炎的其他关键信息，例如来自肾脏活检和先前的医学史叙事的组织学报告，需要复杂的文本处理，以从病理报告和临床笔记中挖掘信息。在这项研究中，我们开发了使用EHR数据识别鉴定狼疮肾炎的血管肾炎，而不使用自然语言处理（NLP）。我们开发了四种算法：仅使用结构化数据（基线算法）和使用不同NLP模型的三种算法的规则的算法。这三种NLP模型基于正则化逻辑回归，并使用不同的特征集，包括积极提及概念独特标识符（Cue），耐备的外观数量，以及三个部件的混合物。基线算法和最佳执行的NLP算法在Vanderbilt University Center（VUMC）的数据集上验证了外部验证。我们最佳地执行来自结构化数据，正则表达式概念和映射的特征的NLP模型，与基线狼疮性肾炎算法相比，在NMEDW（0.41 VS 0.79）和VUMC（0.62 VS 0.96）数据集中有所改善。