尽管深度神经网络在各种学习问题中取得了巨大的成功,但已经观察到,在这些架构的输入中添加有意设计的对抗扰动会导致错误的分类,并且在预测中具有高置信度。在这项工作中,我们提出了一个基于学习算法的扰动分析的总体框架,该算法由凸规划组成,能够作为特殊情况恢复许多当前的对抗性攻击。该框架可用于针对各种新约束下的分类和回归任务的学习算法提出攻击,并在许多实例中使用封闭形式解决方案。特别地,我们得到针对分类算法的新攻击,其被证明可以实现与显着存在的攻击相当的性能。然后该框架用于生成回归任务的对抗性扰动,包括单个像素和单个子集攻击。通过将此方法应用于自动编码和图像着色任务,可以看出,对抗性扰动也可以有效地扰乱回归任务的输出。
translated by 谷歌翻译
DynamicGEM是一个开源Python库,用于学习动态图的节点表示。它由最先进的算法组成,用于定义连接随时间变化的节点。该库还包含网络上四个下游任务的评估框架:图形重建,静态和时间链接预测,节点分类和时间可视化。我们已经实施了各种指标来评估最先进的方法,以及来自不同领域的不断发展的网络示例。我们有易于使用的函数来调用和评估方法,并有大量的使用文档。此外,DynamicGEM提供了一个模板,可以轻松添加新算法,以便进一步研究该主题。
translated by 谷歌翻译
今天,密集仪器化的世界为连续采集和分析多模态传感器数据提供了巨大的机会,提供了个人行为的时间表征。是否有可能将这种丰富的传感器数据与预测建模技术相结合,提供上下文,以及对个人表现和维持的深刻见解?从这些嘈杂,不完整和异质的生物行为时间数据预测人类行为的不同方面是一个具有挑战性的问题,超出潜在结构的无监督发现。我们提出了一种用于高维多模态数据的监督张量嵌入(STE)算法,其具有输入和目标变量的连接分解。此外,我们表明,特征选择将有助于减少预测中的污染并提高性能。通过两个不同的真实世界数据集测试了方法的有效性。
translated by 谷歌翻译
我们解决了在给定描述它的自然语言表达的情况下对对象进行分段的问题。当前技术通过(\ textit {i})直接或递归地合并信道维度中的语言和视觉信息然后执行卷积来处理该任务;或者通过(\ textit {ii})将表达式映射到一个空间,在该空间中它可以被认为是一个过滤器,其响应与图像中的空间坐标处的对象的存在直接相关,因此卷积可以应用于查找对象。我们提出了一种新方法,它集成了这两种见解,以充分利用语言的递归本质。此外,在上采样过程中,我们利用在对图像进行下采样时生成的中间信息,从而可以获得详细的分割。我们将我们的方法与fourstandard数据集中最先进的方法进行比较,其中它超过了此任务的八个分裂中的六个中的所有方法。
translated by 谷歌翻译
已提议PAC-Bayes界限基于训练样本获得风险评估。在本文中,PAC-Bayes方法与Hilbert空间值算法所学习的假设的稳定性相结合。 PAC-Bayes设置与高斯先验一起使用,以预期输出为中心。因此,我们论文的新颖之处在于使用根据数据生成分布定义的先验。我们的主要结果估计了假设稳定系数的随机算法的风险。我们还提供了SVM分类器的新约束,它与实验上的其他已知边界进行了比较。我们似乎是第一个基于稳定性的边界来评估重要值。
translated by 谷歌翻译
值迭代网络(VIN)是有效的可区分路径规划模块,代理可以使用它来执行导航,同时仍然保持整个架构的端到端可区分性。 Despitetheir的有效性,它们有几个缺点,包括训练不稳定性,随机种子敏感性和其他优化问题。在这项工作中,我们将VIN重新定义为循环卷积网络,该网络证明了VIN将复发卷积与非常规最大池化激活相结合。从这个角度来看,我们认为标准的门控重复更新方程可能会缓解困扰VAR的优化问题。我们称之为门控路径规划网络的结果体系结构在经验上优于VIN,可用于各种指标,如学习速度,超参数灵敏度,迭代计数甚至泛化。此外,我们表明这种性能差距在不同的迷宫中是一致的。转换类型,迷宫大小甚至在具有挑战性的3D环境中显示成功,其中规划器仅提供第一人称RGB图像。
translated by 谷歌翻译
网络攻击的频率和严重程度都在增加。仅在过去的一年中,我们就目睹了大规模的数据泄露,这些数据泄露了数百万人的个人信息和大规模勒索软件攻击,这些攻击使几个国家的关键基础设施陷入瘫痪。应对不断上升的网络威胁要求采取多管齐下的策略,其中包括预测这些攻击何时会发生。推动我们的方法的直觉是:在规划和准备阶段,黑客以平台论坛,社交媒体,博客等平台上的讨论形式,在表面网站和黑暗网络上留下他们活动的数字痕迹。这些数据提供预测信号,可以预测网络攻击。在本文中,我们描述了基于深度神经网络和自回归时间序列模型的机器学习技术,这些模型利用来自公共可用Websources的外部信号来预测网络攻击。我们的框架在真实世界预测任务中跨地面数据的表现表明,我们的方法对预测的网络攻击中的顶部信号产生了显着的提升或增加F1。我们的结果表明,部署后,我们的系统将能够提供针对各种类型的针对性网络攻击的有效防线。
translated by 谷歌翻译
据观察,深度学习体系结构往往会对特别设计的对抗性实例产生高可靠性的错误决策。在这项工作中,我们表明这些体系结构的扰动分析提供了一个框架,用于通过凸面编程生成对抗实例,对于分类任务,它能够恢复现有非自适应对抗方法的变体。所提出的框架可用于在各种期望约束和不同类型的网络下设计对抗性噪声。此外,该框架能够解释各种现有的对抗方法,并且还可以用于推导新算法。此外,我们利用这些结果来获得novelalgorithms。实验表明,在采用众所周知的对抗方法进行基准测试时,所得解决方案的竞争性能就愚蠢比而言。
translated by 谷歌翻译
The ability to act in multiple environments and transfer previous knowledgeto new situations can be considered a critical aspect of any intelligent agent.Towards this goal, we define a novel method of multitask and transfer learningthat enables an autonomous agent to learn how to behave in multiple taskssimultaneously, and then generalize its knowledge to new domains. This method,termed "Actor-Mimic", exploits the use of deep reinforcement learning and modelcompression techniques to train a single policy network that learns how to actin a set of distinct tasks by using the guidance of several expert teachers. Wethen show that the representations learnt by the deep policy network arecapable of generalizing to new tasks with no prior expert guidance, speeding uplearning in novel environments. Although our method can in general be appliedto a wide range of problems, we use Atari games as a testing environment todemonstrate these methods.
translated by 谷歌翻译
在最近生成模型的进展的推动下,我们引入了一个从自然语言描述中生成图像的模型。所提出的模型在画布上绘制贴片,同时参考描述中的相关单词。在对Microsoft COCO进行培训后,我们将模型与图像生成和检索任务的几个基线生成模型进行比较。我们证明我们的模型比其他模型生成更高质量的样本,并生成具有新数据集的图像,这些图像对应于数据集中最先看不见的标题。
translated by 谷歌翻译