医学图像分析中使用的深度学习模型很容易由于其黑盒性质而引起的可靠性问题。为了阐明这些黑盒模型，先前的作品主要集中在识别输入特征对诊断的贡献，即功能归因。在这项工作中，我们探讨了反事实解释，以确定模型依赖于诊断的模式。具体而言，我们研究了胸部X射线内变化特征对分类器输出的影响，以了解其决策机制。我们利用一种基于样式的方法（StyleEx）来通过操纵其潜在空间中的特定潜在方向来为胸部X射线射线创建反事实解释。此外，我们建议本本芬大大减少生成解释的计算时间。我们在放射科医生的帮助下临床评估反事实解释的相关性。我们的代码公开可用。

图像分类模型可以取决于图像的多个不同语义属性。对分类器的决定的说明需要对这些属性进行发现和可视化这些属性。在这里，我们通过训练生成模型来具体解释基于分类器决策的多个属性来实现这一点的样式x。此类属性的自然来源是样式语的风格，已知在图像中生成语义有意义的维度。但是，由于标准GaN训练不依赖于分类器，所以它可能不代表对分类器决定很重要的这些属性，并且风格的尺寸可以表示无关属性。为了克服这一点，我们提出了一种培训程序，该培训程序包括分类器模型，以便学习特定于分类器的风格。然后从该空间中选择解释性属性。这些可用于可视化每个图像改变多个属性的效果，从而提供特定于图像的解释。我们将风格x应用于多个域，包括动物，叶子，面和视网膜图像。为此，我们展示了如何以不同方式修改图像以改变其分类器输出。我们的结果表明，该方法发现与语义上保持良好的属性，生成有意义的图像特定的解释，并且是在用户研究中测量的人为解释。

深度学习的显着成功引起了人们对医学成像诊断的应用的兴趣。尽管最新的深度学习模型在分类不同类型的医学数据方面已经达到了人类水平的准确性，但这些模型在临床工作流程中几乎不采用，这主要是由于缺乏解释性。深度学习模型的黑盒子性提出了制定策略来解释这些模型的决策过程的必要性，从而导致了可解释的人工智能（XAI）主题的创建。在这种情况下，我们对应用于医学成像诊断的XAI进行了详尽的调查，包括视觉，基于示例和基于概念的解释方法。此外，这项工作回顾了现有的医学成像数据集和现有的指标，以评估解释的质量。此外，我们还包括一组基于报告生成的方法的性能比较。最后，还讨论了将XAI应用于医学成像以及有关该主题的未来研究指示的主要挑战。

人工智能被出现为众多临床应用诊断和治疗决策的有用援助。由于可用数据和计算能力的快速增加，深度神经网络的性能与许多任务中的临床医生相同或更好。为了符合信任AI的原则，AI系统至关重要的是透明，强大，公平和确保责任。由于对决策过程的具体细节缺乏了解，目前的深神经系统被称为黑匣子。因此，需要确保在常规临床工作流中纳入常规神经网络之前的深度神经网络的可解释性。在这一叙述审查中，我们利用系统的关键字搜索和域专业知识来确定已经基于所产生的解释和技术相似性的类型的医学图像分析应用的深度学习模型来确定九种不同类型的可解释方法。此外，我们报告了评估各种可解释方法产生的解释的进展。最后，我们讨论了局限性，提供了利用可解释性方法和未来方向的指导，了解医学成像分析深度神经网络的解释性。

尽管它们的准确性很高，但由于未知的决策过程和潜在的偏见，现代复杂的图像分类器不能被敏感任务受到信任。反事实解释非常有效地为这些黑盒算法提供透明度。然而，生成可能对分类器输出产生一致影响并揭示可解释的特征更改的反事实是一项非常具有挑战性的任务。我们介绍了一种新颖的方法，可以使用验证的生成模型为图像分类器生成因果关系但可解释的反事实解释，而无需进行任何重新训练或调节。该技术中的生成模型不可能在与目标分类器相同的数据上进行训练。我们使用此框架来获得对比度和因果关系，并作为黑盒分类器的全球解释。在面部属性分类的任务上，我们通过提供因果和对比特征属性以及相应的反事实图像来展示不同属性如何影响分类器输出。

尽管有无数的同伴审查的论文，证明了新颖的人工智能（AI）基于大流行期间的Covid-19挑战的解决方案，但很少有临床影响。人工智能在Covid-19大流行期间的影响因缺乏模型透明度而受到极大的限制。这种系统审查考察了在大流行期间使用可解释的人工智能（Xai）以及如何使用它可以克服现实世界成功的障碍。我们发现，Xai的成功使用可以提高模型性能，灌输信任在最终用户，并提供影响用户决策所需的值。我们将读者介绍给常见的XAI技术，其实用程序以及其应用程序的具体例子。 XAI结果的评估还讨论了最大化AI的临床决策支持系统的价值的重要步骤。我们说明了Xai的古典，现代和潜在的未来趋势，以阐明新颖的XAI技术的演变。最后，我们在最近出版物支持的实验设计过程中提供了建议的清单。潜在解决方案的具体示例也解决了AI解决方案期间的共同挑战。我们希望本次审查可以作为提高未来基于AI的解决方案的临床影响的指导。

当前的大多数解释性技术都集中在捕获输入空间中特征的重要性。但是，鉴于模型和数据生成过程的复杂性，由此产生的解释远非“完整”，因为它们缺乏特征相互作用和可视化其“效应”的指示。在这项工作中，我们提出了一个新颖的双流式解释性框架，以解释任何基于CNN的图像分类器（架构不考虑）做出的决定。为此，我们首先将潜在特征从分类器中解开，然后将这些功能与观察到的/人为定义的“上下文”功能保持一致。这些对齐特征形成了具有语义上有意义的概念，用于提取描述“感知”数据生成过程的因果图，描述了未观察到的潜在特征和观察到的“上下文”特征之间的功能间和内部内部和内部内部相互作用。该因果图是一个全局模型，可以从中提取不同形式的局部解释。具体而言，我们提供了一个生成器来可视化潜在空间中特征之间交互的“效果”，并从其作为局部解释中提取特征的重要性。我们的框架利用对抗性知识蒸馏来忠实地从分类器的潜在空间中学习表示形式，并将其用于提取视觉解释。我们使用带有附加正规化术语的stylegan-v2体系结构来执行分解和对齐。我们证明并评估了通过关于Morpho-Mnist和FFHQ人脸数据集获得的解释。我们的框架可在\ url {https://github.com/koriavinash1/glance-explanations}上获得。

大多数深度学习算法都缺乏对其预测的解释，这限制了其在临床实践中的部署。改善解释性的方法，尤其是在医学成像中，经常被证明可以传达有限的信息，过于放心或缺乏健壮性。在这项工作中，我们介绍了生成自然语言解释（NLE）的任务，以证明对医学图像的预测是合理的。NLE是人类友好且全面的，并能够培训本质上可解释的模型。为了实现这一目标，我们介绍了模仿 - nle，这是带有NLE的第一个大规模的医学成像数据集。它包含超过38,000个NLE，可以解释各种胸部病理和胸部X射线检查结果。我们提出了一种解决任务并评估该数据集中的几个架构的一般方法，包括通过临床医生评估。

改变特定特征但不是其他特性的输入扰动的反事实示例 - 已经显示用于评估机器学习模型的偏差，例如，对特定的人口组。然而，由于图像的各种特征上的底层的因果结构，生成用于图像的反事实示例是非琐碎的。为了有意义，生成的扰动需要满足因果模型所暗示的约束。我们通过在前瞻性学习推断（ALI）的改进变型中结合结构因果模型（SCM）来提出一种方法，该方法是根据图像的属性之间的因果关系生成反事实。基于所生成的反事实，我们展示了如何解释预先训练的机器学习分类器，评估其偏置，并使用反事实程序缓解偏差。在Morpho-Mnist DataSet上，我们的方法会在质量上产生与基于SCM的Factficuls（DeepScm）的质量相当的反功能，而在更复杂的Celeba DataSet上，我们的方法优于DeepScm在产生高质量的有效反应性时。此外，生成的反事件难以从人类评估实验中的重建图像中无法区分，并且随后使用它们来评估在Celeba数据上培训的标准分类器的公平性。我们表明分类器是偏见的w.r.t.皮肤和头发颜色，以及反事实规则化如何消除这些偏差。

The success of Deep Learning applications critically depends on the quality and scale of the underlying training data. Generative adversarial networks (GANs) can generate arbitrary large datasets, but diversity and fidelity are limited, which has recently been addressed by denoising diffusion probabilistic models (DDPMs) whose superiority has been demonstrated on natural images. In this study, we propose Medfusion, a conditional latent DDPM for medical images. We compare our DDPM-based model against GAN-based models, which constitute the current state-of-the-art in the medical domain. Medfusion was trained and compared with (i) StyleGan-3 on n=101,442 images from the AIROGS challenge dataset to generate fundoscopies with and without glaucoma, (ii) ProGAN on n=191,027 from the CheXpert dataset to generate radiographs with and without cardiomegaly and (iii) wGAN on n=19,557 images from the CRCMS dataset to generate histopathological images with and without microsatellite stability. In the AIROGS, CRMCS, and CheXpert datasets, Medfusion achieved lower (=better) FID than the GANs (11.63 versus 20.43, 30.03 versus 49.26, and 17.28 versus 84.31). Also, fidelity (precision) and diversity (recall) were higher (=better) for Medfusion in all three datasets. Our study shows that DDPM are a superior alternative to GANs for image synthesis in the medical domain.

胸部计算机断层扫描（CT）成像为肺部传染病（如结核病（TB））的诊断和管理增添了宝贵的见解。但是，由于成本和资源的限制，只有X射线图像可用于初步诊断或在治疗过程中进行后续比较成像。由于其投影性，X射线图像可能更难解释临床医生。缺乏公开配对的X射线和CT图像数据集使训练3D重建模型的挑战。此外，胸部X射线放射学可能依赖具有不同图像质量的不同设备方式，并且潜在的种群疾病谱可能会在输入中产生多样性。我们提出了形状诱导，也就是说，在没有CT监督的情况下从X射线中学习3D CT的形状，作为一种新型技术，可以在训练重建模型的训练过程中结合现实的X射线分布。我们的实验表明，这一过程既提高了产生的CT的感知质量，也可以提高肺传染病的下游分类的准确性。

深度学习模型正在应用于越来越多的成功案例中，但是他们在现实世界中的表现如何？为了测试模型，组装了特定的清洁数据集。但是，当部署在现实世界中时，该模型将面临意外的分布（OOD）数据。在这项工作中，我们表明所谓的“放射科医生级” Chexnet模型未能识别所有OOD图像，并将其归类为肺部疾病。为了解决这个问题，我们提出了分发投票，这是一种对多标签分类的分布图像进行分类的新方法。使用在ID和OOD数据上训练的独立课程分布（ID）预测指标，我们平均达到99％的ID分类特异性和98％的敏感性，与胸部上以前的作品相比，端到端的性能显着提高X射线14个数据集。即使仅用ImageNet作为OOD数据训练并使用X射线OOD图像进行测试，我们的方法即使仅用Imagenet进行训练，也超过了其他基于输出的OOD检测器。

反事实可以以人类的可解释方式解释神经网络的分类决策。我们提出了一种简单但有效的方法来产生这种反事实。更具体地说，我们执行合适的差异坐标转换，然后在这些坐标中执行梯度上升，以查找反事实，这些反事实是由置信度良好的指定目标类别分类的。我们提出了两种方法来利用生成模型来构建完全或大约差异的合适坐标系。我们使用Riemannian差异几何形状分析了生成过程，并使用各种定性和定量测量方法验证了生成的反事实质量。

每年医生对患者的基于形象的诊断需求越来越大，是最近的人工智能方法可以解决的问题。在这种情况下，我们在医学图像的自动报告领域进行了调查，重点是使用深神经网络的方法，了解：（1）数据集，（2）架构设计，（3）解释性和（4）评估指标。我们的调查确定了有趣的发展，也是留下挑战。其中，目前对生成的报告的评估尤为薄弱，因为它主要依赖于传统的自然语言处理（NLP）指标，这不准确地捕获医疗正确性。

深度神经网络的成功严重依赖于他们在其投入和其产出之间编码复杂关系的能力。虽然此属性适用于培训数据，但它也掩盖了驱动预测的机制。本研究旨在通过采用基于离散变分的自动化器来改变预测类的干预机制来揭示隐藏的概念。然后，解释模型从任何隐藏层和相应的介入表示可视化编码信息。通过评估原始代表与介入代表之间的差异，可以确定可以改变该类的概念，从而提供可解释性。我们展示了我们在Celeba上的方法的有效性，在那里我们对数据中的偏见显示了各种可视化，并建议揭示和改变偏见的不同干预措施。

理解和解释训练有素的模型对许多机器学习目标至关重要，例如改善鲁棒性，解决概念漂移和减轻偏见。但是，这通常是一个临时过程，涉及手动查看许多测试样本上的模型的错误，并猜测这些错误的预测的根本原因。在本文中，我们提出了一种系统的方法，概念性的反事实解释（CCE），解释了为什么分类器在人类理解的概念方面在特定的测试样本上犯了一个错误（例如，此斑马被错误地分类为狗，因为因为是因为是因为是狗的。微弱的条纹）。我们基于两个先前的想法：反事实解释和概念激活向量，并在众所周知的预读模型上验证我们的方法，表明它有意义地解释了模型的错误。此外，对于接受具有虚假相关性数据的数据训练的新模型，CCE准确地将虚假相关性确定为单个错误分类测试样本中模型错误的原因。在两个具有挑战性的医学应用程序中，CCE产生了有用的见解，并由临床医生确认，涉及该模型在现实世界中犯的偏见和错误。

了解伴随衰老过程的内部生理变化是医学图像解释的重要方面，预期的变化在报告异常发现时起着基线的作用。最近已经证明了深度学习可以准确地从胸部X射线检查患者年龄，并显示出作为健康指标和死亡率预测因素的潜力。在本文中，我们介绍了一项关于放射科医生与最先进的深度学习模型的相对性能的新型比较研究：（a）单个胸部X射线的患者年龄估计，以及（b）排名同一患者的两个时间分离图像。我们使用一个具有1.8m胸部X射线的异质数据库培训模型，其地面真相患者年龄，并研究了有限的培训数据和图像分辨率对模型准确性的限制，并在公共数据上证明了概括性的性能。为了探索模型与人类之间在这些年龄预测任务上的较大性能差距，与文献中看到的其他放射学报告任务相比，我们将我们的年龄预测模型纳入有条件的生成对抗网络（CGAN），允许可视化确定的语义特征通过预测模型对年龄预测很重要，将确定的特征与临床医生依赖的特征进行比较。

本文引入了一种新颖的可解释的AI方法，称为清晰图像。清晰的图像是基于以下观点：令人满意的解释应该是对比，反事实和可衡量的。清晰的图像通过将图像与通过对抗性学习自动生成的相应图像进行对比，从而解释了图像的分类概率。这使得忠实地确定每个细分市场的重要性的显着细分和扰动。清晰的图像已成功地应用于医学成像案例研究中，在该案例研究中，使用新颖的指向游戏指标，它的表现平均比Grad-CAM和Lime的方法平均27％。清晰的图像在识别“因果过度确定”的情况下奇特，其中图像中有多个贴片，其中任何一个本身就足以使分类概率接近一个。

由于深度学习模型越来越多地用于安全关键应用，可解释性和可信度成为主要问题。对于简单的图像，例如低分辨率面部肖像，最近已经提出了综合视觉反事实解释作为揭示训练分类模型的决策机制的一种方法。在这项工作中，我们解决了为高质量图像和复杂场景产生了反事实解释的问题。利用最近的语义到图像模型，我们提出了一种新的生成反事实解释框架，可以产生卓越的稀疏修改，该框架可以保护整体场景结构。此外，我们介绍了“区域目标反事实解释”的概念和相应的框架，其中用户可以通过指定查询图像的一组语义区域来指导反事实的生成说明必须是关于的。在具有挑战性的数据集中进行了广泛的实验，包括高质量的肖像（Celebamask-HQ）和驾驶场景（BDD100K）。

有必要开发负担得起且可靠的诊断工具，该工具允许包含COVID-19的扩散。已经提出了机器学习（ML）算法来设计支持决策系统以评估胸部X射线图像，事实证明，这些图像可用于检测和评估疾病进展。许多研究文章围绕此主题发表，这使得很难确定未来工作的最佳方法。本文介绍了使用胸部X射线图像应用于COVID-19检测的ML的系统综述，旨在就方法，体系结构，数据库和当前局限性为研究人员提供基线。