将来，强大的AI系统可能会在高风险的设置中部署，在这种情况下，单个故障可能是灾难性的。在高风险设置中改善AI安全性的一种技术是对手训练，该培训使用对手来生成示例进行训练，以实现更好的最差表现。在这项工作中，我们将语言生成任务用作测试台，以通过对抗性培训来实现高可靠性。我们创建了一系列的对抗训练技术 - 包括一种有助于人类对手的工具 - 以在分类器中找到和消除故障，该分类器过滤了发电机建议的文本完成。在简单的“避免受伤”任务中，我们确定我们可以设置非常保守的分类器阈值，而不会显着影响过滤后的输出的质量。使用我们选择的阈值，使用基线分类器进行过滤，将不安全完成的速度从分布数据的数据降低到约2.4％至0.003％，这是我们测量能力的极限。我们发现，对抗性训练可显着提高对我们训练的对抗攻击的鲁棒性，而不会影响分布性能。我们希望在高风险的可靠性环境中看到进一步的工作，包括更强大的工具来增强人类对手，以及更好的方法来衡量高水平的可靠性，直到我们可以自信地排除强大模型的灾难性部署时间失败的可能性。
translated by 谷歌翻译
2021-07-29
深度神经网络在计算机视觉中的许多任务中设定了最先进的，但它们的概括对象扭曲的能力令人惊讶地是脆弱的。相比之下，哺乳动物视觉系统对广泛的扰动是强大的。最近的工作表明，这种泛化能力可以通过在整个视觉皮层中的视觉刺激的表示中编码的有用的电感偏差来解释。在这里，我们成功利用了多任务学习方法的这些归纳偏差：我们共同训练了深度网络以进行图像分类并预测猕猴初级视觉皮层（V1）中的神经活动。我们通过测试其对图像扭曲的鲁棒性来衡量我们网络的分发广泛性能力。我们发现，尽管在训练期间没有这些扭曲，但猴子V1数据的共同训练导致鲁棒性增加。此外，我们表明，我们的网络的鲁棒性非常接近Oracle网络的稳定性，其中架构的部分在嘈杂的图像上直接培训。我们的结果还表明，随着鲁布利的改善，网络的表示变得更加大脑。使用新颖的约束重建分析，我们调查了我们的大脑正规网络更加强大的原因。与我们仅对图像分类接受培训的基线网络相比，我们的共同训练网络对内容比噪声更敏感。使用深度预测的显着性图，用于想象成像图像，我们发现我们的猴子共同训练的网络对场景中的突出区域倾向更敏感，让人想起V1在对象边界的检测中的作用和自下而上的角色显着性。总体而言，我们的工作扩大了从大脑转移归纳偏见的有前途的研究途径，并为我们转移的影响提供了新的分析。
translated by 谷歌翻译