转移学习（TL）利用以前获得的知识有效地学习新任务，并且已被用于培训具有有限数量的数据的深度学习（DL）模型。当TL应用于DL时，佩带的预押（教师）模型是微调的，以构建特定域（学生）模型。这种微调依赖于DL模型可以分解到分类器和特征提取器，并且一系列研究表明，相同的特征提取器可用于培训多个任务上的分类器。此外，最近的研究提出了多种算法，可以进行微调教师模型的特征提取器，以更有效地培训学生模型。我们注意到，无论特征提取器的微调如何，学生模型的分类器都接受了特征提取器的最终输出（即倒数第二层的输出）。然而，最近的一项研究表明，跨层中的Resnet中的特征映射可能是在功能上等同的，提高要素提取器内的特征映射的可能性也可用于训练学生模型的分类器。灵感来自这项研究，我们测试了教师模型隐藏层中的特征映射，可用于提高学生模型的准确性（即，TL的效率）。具体而言，我们开发了“自适应传输学习（ATL）”，可以选择用于TL的最佳特征映射，并在几次拍摄的学习设置中测试。我们的实证评估表明，ATL可以帮助DL模型更有效地学习，特别是当可用示例有限时。

Cataloging the complex behaviors of dynamical systems can be challenging, even when they are well-described by a simple mechanistic model. If such a system is of limited analytical tractability, brute force simulation is often the only resort. We present an alternative, optimization-driven approach using tools from machine learning. We apply this approach to a novel, fully-optimizable, reaction-diffusion model which incorporates complex chemical reaction networks (termed "Dense Reaction-Diffusion Network" or "Dense RDN"). This allows us to systematically identify new states and behaviors, including pattern formation, dissipation-maximizing nonequilibrium states, and replication-like dynamical structures.

Text classifiers have promising applications in high-stake tasks such as resume screening and content moderation. These classifiers must be fair and avoid discriminatory decisions by being invariant to perturbations of sensitive attributes such as gender or ethnicity. However, there is a gap between human intuition about these perturbations and the formal similarity specifications capturing them. While existing research has started to address this gap, current methods are based on hardcoded word replacements, resulting in specifications with limited expressivity or ones that fail to fully align with human intuition (e.g., in cases of asymmetric counterfactuals). This work proposes novel methods for bridging this gap by discovering expressive and intuitive individual fairness specifications. We show how to leverage unsupervised style transfer and GPT-3's zero-shot capabilities to automatically generate expressive candidate pairs of semantically similar sentences that differ along sensitive attributes. We then validate the generated pairs via an extensive crowdsourcing study, which confirms that a lot of these pairs align with human intuition about fairness in the context of toxicity classification. Finally, we show how limited amounts of human feedback can be leveraged to learn a similarity specification that can be used to train downstream fairness-aware models.

最先进的（SOTA）深度学习乳房X线照片分类器接受了弱标记的图像训练，通常依赖于产生有限解释性预测的全球模型，这是他们成功地转化为临床实践的关键障碍。另一方面，基于原型的模型通过将预测与训练图像原型相关联，改善了可解释性，但是它们的准确性不如全球模型，其原型往往具有差的多样性。我们通过BraixProtopnet ++的建议解决了这两个问题，该问题通过将基于原型的模型结合起来，为全局模型增添了解释性。 BraixProtopnet ++在训练基于原型的模型以提高合奏的分类精度时，会提炼全局模型的知识。此外，我们提出了一种方法来通过保证所有原型都与不同的训练图像相关联，以增加原型多样性。对弱标记的私人和公共数据集进行的实验表明，BraixProtopnet ++的分类精度比基于SOTA Global和基于原型的模型具有更高的分类精度。使用病变定位来评估模型可解释性，我们显示BraixProtopnet ++比其他基于原型的模型和全球模型的事后解释更有效。最后，我们表明，BraixProtopnet ++学到的原型的多样性优于基于SOTA原型的方法。

在分析筛查乳房X线照片时，放射科医生可以自然处理每个乳房的两个同侧视图，即颅底审计（CC）和中外侧 - 粘合剂（MLO）视图。这些多个相关图像提供了互补的诊断信息，并可以提高放射科医生的分类准确性。不幸的是，大多数现有的深度学习系统，受过全球标记的图像培训，缺乏从这些多种观点中共同分析和整合全球和本地信息的能力。通过忽略筛选发作的多个图像中存在的潜在有价值的信息，人们限制了这些系统的潜在准确性。在这里，我们提出了一种新的多视图全球分析方法，该方法基于全球一致性学习和对乳房X线照片中同侧观点的局部同时学习，模仿放射科医生的阅读程序。广泛的实验表明，在大规模的私人数据集和两个公开可用的数据集上，我们的模型在分类准确性和概括方面优于竞争方法，在该数据集和两个公开可用的数据集上，模型仅受到全球标签的培训和测试。

Majorana示威者是一项领先的实验，寻找具有高纯净锗探测器（HPGE）的中性s中性双β衰变。机器学习提供了一种最大化这些检测器提供的信息量的新方法，但是与传统分析相比，数据驱动的性质使其不可解释。一项可解释性研究揭示了机器的决策逻辑，使我们能够从机器中学习以反馈传统分析。在这项工作中，我们介绍了Majorana演示者数据的第一个机器学习分析。这也是对任何锗探测器实验的第一个可解释的机器学习分析。训练了两个梯度增强的决策树模型，以从数据中学习，并进行了基于游戏理论的模型可解释性研究，以了解分类功率的起源。通过从数据中学习，该分析识别重建参数之间的相关性，以进一步增强背景拒绝性能。通过从机器中学习，该分析揭示了新的背景类别对相互利用的标准Majorana分析的重要性。该模型与下一代锗探测器实验（如传说）高度兼容，因为它可以同时在大量探测器上进行训练。

语言模型是通过有限的输入集定义的，当我们尝试扩展支持语言的数量时，该输入会产生词汇瓶颈。解决此瓶颈会导致在嵌入矩阵中可以表示的与输出层中的计算问题之间的权衡。本文介绍了基于像素的语言编码器Pixel，这两个问题都没有遭受这些问题的影响。 Pixel是一种验证的语言模型，可将文本作为图像呈现，使基于拼字法相似性或像素的共激活的语言传输表示形式。 Pixel经过训练可以重建蒙版贴片的像素，而不是预测令牌上的分布。我们在与BERT相同的英语数据上为8600万参数像素模型预告，并对包括各种非拉丁语脚本在内的类型上多样化的语言中的句法和语义任务进行了评估。我们发现，Pixel在预读取数据中找不到的脚本上的句法和语义处理任务大大优于BERT，但是在使用拉丁文脚本时，Pixel比BERT稍弱。此外，我们发现像素对嘈杂的文本输入比bert更强大，进一步证实了用像素建模语言的好处。

左心室（LV）功能是心脏病患者的患者管理，结局和长期存活方面的重要因素。最近发表的心力衰竭临床指南认识到，仅依赖一种心脏功能（LV射血分数）作为诊断和治疗分层生物标志物的依赖是次优。基于AI的超声心动图分析的最新进展已在LV体积和LV射血分数的自动估计上显示出良好的结果。但是，从随时间变化的2D超声心动图摄取，可以通过从完整的心脏周期中估算功能性生物标志物来获得对心脏功能的更丰富的描述。在这项工作中，我们首次提出了一种基于全心脏周期分割的2D超声心动图的AI方法，用于从2D超声心动图中得出高级生物标志物。这些生物标志物将允许临床医生获得健康和疾病中心脏的丰富图片。 AI模型基于“ NN-UNET”框架，并使用四个不同的数据库进行了训练和测试。结果表明，手动分析和自动分析之间的一致性很高，并展示了晚期收缩期和舒张期生物标志物在患者分层中的潜力。最后，对于50例病例的子集，我们在超声心动图和CMR的临床生物标志物之间进行了相关分析，我们在两种方式之间表现出了极好的一致性。

可靠的评估基准是为了可复制性和全面性而设计的，在机器学习方面取得了进步。但是，由于缺乏多语言基准，视觉和语言研究主要集中在英语任务上。为了填补这一空白，我们介绍了图像的语言理解评估基准。 Iglue通过汇总已有的数据集并创建新的数据来汇集 - 视觉问题回答，跨模式检索，扎根的推理以及跨20种不同语言的扎根成本。我们的基准测试能够评估多语言多模型用于转移学习的模型，不仅在零弹位设置中，而且还以新定义的少数图学习设置。根据对可用最新模型的评估，我们发现翻译测试转移优于零弹性转移，并且对于许多任务而言，很难利用射击的学习。此外，下游性能部分用可用的未标记文本数据进行预处理来解释，并且仅通过目标源语言的类型学距离而微弱。我们希望通过向社区释放基准来鼓励该领域的未来研究工作。

相对色彩恒定是许多科学成像应用的重要要求。然而，大多数数码相机在其图像形成和本机传感器输出中的不同通常无法访问，例如，在智能手机相机应用中。这使得难以在一系列设备上实现一致的颜色评估，并且破坏了计算机视觉算法的性能。若要解决此问题，我们提出了一种颜色对齐模型，将相机映像形成为黑盒，并将颜色对准作为三步处理：相机响应校准，响应线性和颜色匹配。所提出的模型采用非标准颜色参考，即，通过利用新颖的线性距离特征，在不知道真实颜色值的情况下，颜色斑块。它相当于通过无监督过程确定相机参数。它还适用于跨图像的最小相应颜色块，以进行颜色，以提供适用的处理。在各种照明和曝光条件下由多个摄像机收集的两个具有挑战性的图像数据集用于评估模型。性能基准证明，与其他流行和最先进的方法相比，我们的模型实现了卓越的性能。