The Concept Bottleneck Models (CBMs) of Koh et al. [2020] provide a means to ensure that a neural network based classifier bases its predictions solely on human understandable concepts. The concept labels, or rationales as we refer to them, are learned by the concept labeling component of the CBM. Another component learns to predict the target classification label from these predicted concept labels. Unfortunately, these models are heavily reliant on human provided concept labels for each datapoint. To enable CBMs to behave robustly when these labels are not readily available, we show how to equip them with the ability to abstain from predicting concepts when the concept labeling component is uncertain. In other words, our model learns to provide rationales for its predictions, but only whenever it is sure the rationale is correct.

Concept bottleneck models perform classification by first predicting which of a list of human provided concepts are true about a datapoint. Then a downstream model uses these predicted concept labels to predict the target label. The predicted concepts act as a rationale for the target prediction. Model trust issues emerge in this paradigm when soft concept labels are used: it has previously been observed that extra information about the data distribution leaks into the concept predictions. In this work we show how Monte-Carlo Dropout can be used to attain soft concept predictions that do not contain leaked information.

Rising usage of deep neural networks to perform decision making in critical applications like medical diagnosis and financial analysis have raised concerns regarding their reliability and trustworthiness. As automated systems become more mainstream, it is important their decisions be transparent, reliable and understandable by humans for better trust and confidence. To this effect, concept-based models such as Concept Bottleneck Models (CBMs) and Self-Explaining Neural Networks (SENN) have been proposed which constrain the latent space of a model to represent high level concepts easily understood by domain experts in the field. Although concept-based models promise a good approach to both increasing explainability and reliability, it is yet to be shown if they demonstrate robustness and output consistent concepts under systematic perturbations to their inputs. To better understand performance of concept-based models on curated malicious samples, in this paper, we aim to study their robustness to adversarial perturbations, which are also known as the imperceptible changes to the input data that are crafted by an attacker to fool a well-learned concept-based model. Specifically, we first propose and analyze different malicious attacks to evaluate the security vulnerability of concept based models. Subsequently, we propose a potential general adversarial training-based defense mechanism to increase robustness of these systems to the proposed malicious attacks. Extensive experiments on one synthetic and two real-world datasets demonstrate the effectiveness of the proposed attacks and the defense approach.

部署AI驱动的系统需要支持有效人类互动的值得信赖的模型，超出了原始预测准确性。概念瓶颈模型通过在类似人类的概念的中间级别调节分类任务来促进可信度。这使得人类干预措施可以纠正错误预测的概念以改善模型的性能。但是，现有的概念瓶颈模型无法在高任务准确性，基于概念的强大解释和对概念的有效干预措施之间找到最佳的妥协，尤其是在稀缺完整和准确的概念主管的现实情况下。为了解决这个问题，我们提出了概念嵌入模型，这是一种新型的概念瓶颈模型，它通过学习可解释的高维概念表示形式而超出了当前的准确性-VS解关性权衡。我们的实验表明，嵌入模型（1）达到更好或竞争性的任务准确性W.R.T. W.R.T.没有概念的标准神经模型，（2）提供概念表示，以捕获有意义的语义，包括其地面真相标签，（3）支持测试时间概念干预措施，其在测试准确性中的影响超过了标准概念瓶颈模型，以及（4）规模对于稀缺的完整概念监督的现实条件。

自解释深层模型旨在在训练期间隐含地学习基于潜在的概念的解释，从而消除了任何HOC后期解释生成技术的要求。在这项工作中，我们提出了一种这样的模型，该模型将解释生成模块附加在任何基本网络的顶部，并共同列举显示出高预测性能的整个模块，并在概念方面产生有意义的解释。与基线方法相比，我们的培训策略适用于无监督的概念学习，与基线方法相比具有更大的参数空间要求。我们拟议的模式还规定了利用自我监督对概念来提取更好的解释。然而，通过完整的概念监督，与最近提出的基于概念的可解释模型相比，我们实现了最佳预测性能。我们通过我们的方法报告了定性和定量结果，这表明了比最近提出的基于概念的解释方法更好的性能。我们报告了一个没有地面真理概念的两个数据集，即CiFar10，ImageNet和两个具有地面真理概念的数据集，即AWA2，Cub-200，以显示我们两种情况的方法。据我们所知，我们是第一批展示诸如ImageNet的大规模数据集的结果。

这项调查回顾了对基于视觉的自动驾驶系统进行行为克隆训练的解释性方法。解释性的概念具有多个方面，并且需要解释性的驾驶强度是一种安全至关重要的应用。从几个研究领域收集贡献，即计算机视觉，深度学习，自动驾驶，可解释的AI（X-AI），这项调查可以解决几点。首先，它讨论了从自动驾驶系统中获得更多可解释性和解释性的定义，上下文和动机，以及该应用程序特定的挑战。其次，以事后方式为黑盒自动驾驶系统提供解释的方法是全面组织和详细的。第三，详细介绍和讨论了旨在通过设计构建更容易解释的自动驾驶系统的方法。最后，确定并检查了剩余的开放挑战和潜在的未来研究方向。

对于使用高性能机器学习算法通常不透明的决策，人们越来越担心。用特定于领域的术语对推理过程的解释对于在医疗保健等风险敏感领域中采用至关重要。我们认为，机器学习算法应该可以通过设计来解释，并且表达这些解释的语言应与域和任务有关。因此，我们将模型的预测基于数据的用户定义和特定于任务的二进制函数，每个都对最终用户有明确的解释。然后，我们最大程度地减少了在任何给定输入上准确预测所需的预期查询数。由于解决方案通常是棘手的，因此在事先工作之后，我们根据信息增益顺序选择查询。但是，与以前的工作相反，我们不必假设查询在有条件地独立。取而代之的是，我们利用随机生成模型（VAE）和MCMC算法（未经调整的Langevin）来选择基于先前的查询 - 答案的输入的最有用的查询。这使得在线确定要解决预测歧义所需的任何深度的查询链。最后，关于视觉和NLP任务的实验证明了我们的方法的功效及其优越性比事后解释的优势。

可解释的人工智能（XAI）方法旨在帮助人类用户更好地了解AI代理的决策。但是，许多现代的XAI方法对最终用户，尤其是那些没有先前AI或ML知识的用户都不纯粹。在本文中，我们提出了一种新颖的XAI方法，我们称为责任，标识了特定决定的最负责任的培训示例。然后可以将此示例显示为一个解释：“这是我（AI）学到的使我做到的。”我们介绍了许多领域的实验结果，以及亚马逊机械Turk用户研究的结果，比较了责任和图像分类任务上的现有XAI方法。我们的结果表明，责任可以帮助提高人类最终用户和次要ML模型的准确性。

Concept bottleneck models (CBMs) (Koh et al. 2020) are interpretable neural networks that first predict labels for human-interpretable concepts relevant to the prediction task, and then predict the final label based on the concept label predictions.We extend CBMs to interactive prediction settings where the model can query a human collaborator for the label to some concepts. We develop an interaction policy that, at prediction time, chooses which concepts to request a label for so as to maximally improve the final prediction. We demonstrate thata simple policy combining concept prediction uncertainty and influence of the concept on the final prediction achieves strong performance and outperforms a static approach proposed in Koh et al. (2020) as well as active feature acquisition methods proposed in the literature. We show that the interactiveCBM can achieve accuracy gains of 5-10% with only 5 interactions over competitive baselines on the Caltech-UCSDBirds, CheXpert and OAI datasets.

Despite widespread adoption, machine learning models remain mostly black boxes. Understanding the reasons behind predictions is, however, quite important in assessing trust, which is fundamental if one plans to take action based on a prediction, or when choosing whether to deploy a new model. Such understanding also provides insights into the model, which can be used to transform an untrustworthy model or prediction into a trustworthy one.In this work, we propose LIME, a novel explanation technique that explains the predictions of any classifier in an interpretable and faithful manner, by learning an interpretable model locally around the prediction. We also propose a method to explain models by presenting representative individual predictions and their explanations in a non-redundant way, framing the task as a submodular optimization problem. We demonstrate the flexibility of these methods by explaining different models for text (e.g. random forests) and image classification (e.g. neural networks). We show the utility of explanations via novel experiments, both simulated and with human subjects, on various scenarios that require trust: deciding if one should trust a prediction, choosing between models, improving an untrustworthy classifier, and identifying why a classifier should not be trusted.

在许多情况下，基于一些高级概念来解释人为的决定。在这项工作中，我们通过检查其内部代表或神经元对概念的激活来迈出神经网络的可解释性。一个概念的特征在于一组具有共同特征的样本。我们提出了一个框架来检查概念（或其否定）和任务类之间存在因果关系的存在。虽然以前的方法专注于概念对任务类的重要性，但我们进一步进一步介绍了四项措施来定量地确定因果关系的顺序。此外，我们提出了一种以基于概念的决策树的形式构建一种概念的层次结构，其可以阐明各种概念如何在神经网络内交互朝向预测输出类。通过实验，我们展示了提出方法在解释神经网络的概念与预测行为之间的因果关系中的有效性以及通过构建概念层次结构来确定不同概念之间的相互作用。

众所周知，端到端的神经NLP体系结构很难理解，这引起了近年来为解释性建模的许多努力。模型解释的基本原则是忠诚，即，解释应准确地代表模型预测背后的推理过程。这项调查首先讨论了忠诚的定义和评估及其对解释性的意义。然后，我们通过将方法分为五类来介绍忠实解释的最新进展：相似性方法，模型内部结构的分析，基于反向传播的方法，反事实干预和自我解释模型。每个类别将通过其代表性研究，优势和缺点来说明。最后，我们从它们的共同美德和局限性方面讨论了上述所有方法，并反思未来的工作方向忠实的解释性。对于有兴趣研究可解释性的研究人员，这项调查将为该领域提供可访问且全面的概述，为进一步探索提供基础。对于希望更好地了解自己的模型的用户，该调查将是一项介绍性手册，帮助选择最合适的解释方法。

Demspter-Shafer证据理论中提出的不确定性量化的信念函数方法是基于对集合值观测的一般数学模型，称为随机集。设定值的预测是机器学习中不确定性的最自然表示。在本文中，我们介绍了一个基于对信仰功能的随机解释来模拟深度神经网络中的认知学习的概念。我们提出了一个新型的随机卷积神经网络，用于分类，该网络通过学习设置值的地面真实表示来为类别的分类产生分数。我们评估信仰功能的熵和距离度量的不同公式，作为这些随机集网络的可行损失函数。我们还讨论了评估认知预测质量和认知随机神经网络的表现的方法。我们通过实验证明，与传统的估计不确定性相比，认知方法可以产生更好的性能结果。

可解释的深度学习模型的最新努力表明，基于概念的解释方法通过标准的端到端模型实现了竞争精度，并能够从图像中提取高级视觉概念的推理和干预，例如识别机翼颜色和喙长度用于鸟类分类。但是，这些概念瓶颈模型依赖于一组必要且充分的预定义概念，这对于诸如视频分类等复杂任务很棘手。对于复杂的任务，标签和视觉元素之间的关系涵盖了许多框架，例如，识别出具有各种抽象水平的鸟类飞行或捕获猎物不必要的概念。为此，我们提出了Codex，这是一个自动概念发现和提取模块，严格地构成了基于概念的视频分类的必要且充分的概念摘要集。 Codex从自然语言解释视频解释中确定了一系列复杂的概念摘要，从而需要预先定义一组无定形的概念集。为了证明我们的方法的生存能力，我们构建了两个新的公共数据集，这些数据集将现有的复杂视频分类数据集与其标签的简短，众包的自然语言解释相结合。我们的方法在自然语言中引发了固有的复杂概念摘要，以将概念 - 底层方法推广到复杂的任务。

In the last years many accurate decision support systems have been constructed as black boxes, that is as systems that hide their internal logic to the user. This lack of explanation constitutes both a practical and an ethical issue. The literature reports many approaches aimed at overcoming this crucial weakness sometimes at the cost of scarifying accuracy for interpretability. The applications in which black box decision systems can be used are various, and each approach is typically developed to provide a solution for a specific problem and, as a consequence, delineating explicitly or implicitly its own definition of interpretability and explanation. The aim of this paper is to provide a classification of the main problems addressed in the literature with respect to the notion of explanation and the type of black box system. Given a problem definition, a black box type, and a desired explanation this survey should help the researcher to find the proposals more useful for his own work. The proposed classification of approaches to open black box models should also be useful for putting the many research open questions in perspective.

图神经网络（GNN）在各种与图形相关的任务上非常有效。但是，它们缺乏解释性和透明度。当前的解释性方法通常是局部的，将GNN视为黑盒。他们不在模型内部看，抑制了人类对模型和解释的信任。由神经元在视觉模型中检测高级语义概念的能力的动机，我们对单个GNN神经元的行为回答有关GNN可解释性的问题进行了新的分析，并提出了新的指标来评估GNN神经元的可解释性。我们提出了一种新颖的方法，用于使用神经元级概念为GNN产生全球解释，以使从业者能够对模型具有高级的看法。具体而言，（i）据我们所知，这是第一部作品，表明GNN神经元充当概念探测器，并且与表述为节点学位和邻居属性的逻辑组成的概念具有很强的一致性； （ii）我们定量评估检测概念的重要性，并确定训练持续时间和神经元水平的解释性之间的权衡； （iii）我们证明，我们的全球解释性方法比当前的最新方法具有优势 - 我们可以将解释解释为以逻辑描述为支持的单个可解释概念，从而降低了偏见的潜力并提高用户友好性。

在多标签学习中，单个数据点与多个目标标签相关联的多任务学习的特定情况，在文献中广泛假定，为了获得最佳准确性，应明确建模标签之间的依赖性。这个前提导致提供的方法的扩散，以学习和预测标签，例如，一个标签的预测会影响对其他标签的预测。即使现在人们承认，在许多情况下，最佳性能并不需要一种依赖模型，但此类模型在某些情况下继续超越独立模型，这暗示了其对其性能的替代解释以外的标签依赖性，而文献仅是文献才是最近开始解开。利用并扩展了最近的发现，我们将多标签学习的原始前提转移到其头上，并在任务标签之间没有任何可衡量的依赖性的情况下特别处理联合模型的问题；例如，当任务标签来自单独的问题域时。我们将洞察力从这项研究转移到建立转移学习方法，该方法挑战了长期以来的假设，即任务的可转移性来自源和目标域或模型之间相似性的测量。这使我们能够设计和测试一种传输学习方法，该方法是模型驱动的，而不是纯粹的数据驱动，并且它是黑匣子和模型不合时式（可以考虑任何基本模型类）。我们表明，从本质上讲，我们可以根据源模型容量创建任务依赖性。我们获得的结果具有重要的含义，并在多标签和转移学习领域为将来的工作提供了明确的方向。

为了解释来自可差异的概率模型的不确定性估计，最近的工作已经提出了用于给定数据点的单一反事实潜在的不确定性解释（CLUE），其中模型不确定，识别单个，歧管改变到输入，使得模型变为更确定于其预测。我们拓宽了探索{\ delta} -clue，这是潜在空间原始输入的{\ delta}球中的潜在线索集。我们研究了这样的套装的多样性，并发现许多线索是多余的;因此，我们提出了各种线索（{\ nabla} -clue），一组线索，每个线索各自提出了一种明显的解释，以及如何减少与输入相关联的不确定性。然后，我们进一步提出了全球摊销线索（Glam-Clue），这是一种独特的和新的方法，它在特定的不确定输入组上学习摊销映射，将它们和有效地将它们的单一函数调用转换为模型将确定的输入。我们的实验表明，{\ delta} -clue，{\ nabla} -clue，以及Glam-clue所有地址线索的缺点，并为从业者提供了对不确定性估计的有益解释。

从大型预训练模型转移学习对于许多计算机视觉任务来说都是至关重要的。最近的研究表明，由于存在存在的多个对象类的图像被分配单个标签，所以类似于想象成的数据集弱标记。这种模糊的偏置模型朝向单一预测，这可能导致抑制数据中倾向于共同发生的类。灵感来自语言出现文学，我们提出了多标签迭代学习（英里）来利用迭代学习框架从单个标签中融入多标签学习的归纳偏见。英里是一种简单而有效的过程，通过通过与学习瓶颈的连续几代教师和学生网络传播二进制预测来构建图像的多标签描述。实验表明，我们的方法对Imagenet的准确性以及真正的F1分数表现出系统的益处，这表明英里与标签歧义更好地优于标准训练程序，即使在自我监督权重的微调时也会比标准训练程序更好。我们还表明英里有效地减少标签噪音，实现了最先进的性能，如WebVision等现实大规模嘈杂的数据。此外，英里提高了类增量设置中的性能，例如IIRC，它是强大的分发班次。代码：https://github.com/rajeswar18/mile.

理解和解释训练有素的模型对许多机器学习目标至关重要，例如改善鲁棒性，解决概念漂移和减轻偏见。但是，这通常是一个临时过程，涉及手动查看许多测试样本上的模型的错误，并猜测这些错误的预测的根本原因。在本文中，我们提出了一种系统的方法，概念性的反事实解释（CCE），解释了为什么分类器在人类理解的概念方面在特定的测试样本上犯了一个错误（例如，此斑马被错误地分类为狗，因为因为是因为是因为是狗的。微弱的条纹）。我们基于两个先前的想法：反事实解释和概念激活向量，并在众所周知的预读模型上验证我们的方法，表明它有意义地解释了模型的错误。此外，对于接受具有虚假相关性数据的数据训练的新模型，CCE准确地将虚假相关性确定为单个错误分类测试样本中模型错误的原因。在两个具有挑战性的医学应用程序中，CCE产生了有用的见解，并由临床医生确认，涉及该模型在现实世界中犯的偏见和错误。