在本报告中,我们回顾了基于记忆的元学习作为建筑样本有效策略的工具,该策略从过去的经验中学习以适应目标类中的任何任务。我们的目标是为读者提供此工具的概念基础,以构建在陆域上运行的新的可扩展代理。为此,我们提出了基本的算法模板,用于建立最佳预测器和强化学习器,其行为就好像它们具有允许它们有效地利用任务结构的概率模型。此外,我们在贝叶斯框架内重建基于内存的元学习,显示元学习策略接近最优,因为它们分摊贝叶斯过滤数据,其中适应在内存动态中实现为具有足够统计数据的状态机。从本质上讲,基于记忆的学习 - 学习将概率序贯推理的难题转化为回归问题。
translated by 谷歌翻译
Optimal Transport提供了学习生成自动编码模型的最大可能性的替代方案。我们展示了这个原理如何决定编码器聚合后部和先前之间的Wasserstein距离的最小化以及重建误差。我们证明了在参数限制中,如果两个分布完全匹配,则自动编码器生成数据分布,并且最佳值可以通过确定性自动编码器获得。然后我们介绍SinkhornAutoEncoder(SAE),它将问题转化为潜在空间的最佳传输。通过Sinkhorn算法的反向传播使得到的Wasserstein距离最小化。 SAE将聚合后验模型设计为隐式分布,因此不需要重新参数化技术来进行梯度估计。而且,它几乎不需要适应不同的先前分布。我们通过考虑具有超球面和Dirichlet先验的模型以及概率编程的简单情况来展示其灵活性。 SAE在视觉质量和FID分数方面匹配或优于其他自动编码模型。
translated by 谷歌翻译
特别是机器学习和深度学习近年来在​​感知任务方面取得了巨大进步。然而,它仍然容易受到输入的对抗扰动的影响,这些扰动是专门为系统设计的,同时对人类来说是不易察觉的。在这项工作中,我们建议用一个小的“探测器”子网来增强深度神经网络,该子网络训练用于区分genuinedata和包含对抗性扰动的数据的二元分类任务。我们的方法与解决对抗性扰动的先前工作是正交的,其主要侧重于使分类网络本身更加健壮。我们凭经验证明,即使对人类来说几乎不可察觉,也可以非常好地检测出对抗性扰动。此外,虽然探测器只能探测到特定的对手,但它们可以推广到类似且较弱的对手。此外,我们提出了一种对抗分类器和探测器的对抗性攻击,以及一种抵抗这种攻击的探测器的新型训练程序。
translated by 谷歌翻译
研究人员目前依靠临时数据集来训练自动化可视化工具并评估可视化设计的有效性。这些样本通常缺乏真实数据集的特征,而且它们的一次性特性使得难以比较不同的技术。在本文中,我们介绍了VizNet:一个包含来自开放数据存储库和在线可视化库的超过3100万个数据集的大规模语料库。 Onaverage,这些数据集包含3个维度的17个记录,并且在整个公司中,我们发现51%的维度记录分类数据,44%定量,仅有5%的时间。 VizNet提供了必要的公共基线,用于比较可视化设计技术,以及用于自动化可视化分析的开发基准模型和算法。为了展示VizNet的实用程序作为进行在线众包实验的平台,我们复制了一项先前的研究,评估用户任务和数据分布对视觉编码有效性的影响,并通过考虑额外的任务来扩展它:异常值检测。为了应对大规模运行此类研究,我们展示了如何从实验结果中学习感知有效性的度量,并展示其在测试数据集中的预测能力。
translated by 谷歌翻译
对于今天的安全分析师来说,跟上威胁情报是必须的。“野外”中存在大量信息会影响组织。我们需要开发一个人工智能系统来搜索情报来源,让分析师了解各种威胁对她的组织构成风险。一个更好的“tappedin”的安全分析师可以更有效。在本文中,我们提出了Cyber​​-All-Intel一个人工智能系统,以帮助安全分析师。它是一个基于安全信息领域的端到端管道中的知识提取,表示和分析系统。它使用“VKG结构”中的多个知识表示,矢量空间和知识图来存储传入的智能。该系统还使用神经网络模型积极地提高其知识。我们还创建了一个查询引擎和一个警报系统,分析师可以使用它来查找可操作的网络安全见解。
translated by 谷歌翻译
GNSS定位是当今自治系统的重要组成部分,尽管它受到由非线性影响引起的非高斯误差的影响。最近的方法能够通过在传感器融合算法中包括相应的分布来减轻这些影响。然而,这些方法需要有关传感器分布的先验知识,这是不可用的。我们介绍了一种基于变分贝叶斯推理的新型传感器融合算法,该算法能够用高斯混合模型逼近truedistribution并学习其参数化。所提出的增量变分混合算法自动将混合分量的数量与测量的误差分布的复杂性相匹配。我们使用一组开放存取的真实世界数据集将所提出的算法与当前最先进的方法进行比较,并展示其卓越的定位精度。
translated by 谷歌翻译
我们提出了SEALion:一个可扩展的框架,用于保护隐私机器学习,具有同态加密。它允许人们学习深度神经网络,可以无缝地用于加密数据的预测。框架由两层组成:第一层是基于TensorFlow和SEALand构建的,它暴露了标准代数和深度学习原语;第二个实现类似Keras的语法,用于训练和推理神经网络。提供所需的安全级别,用户从编码和加密方案的细节中抽象出来,允许快速原型设计。我们提出了两个应用程序来举例说明我们提案的可扩展性,这些应用程序也具有独立的兴趣:i)通过活动稀疏器提高神经网络参考的效率; ii)通过查询可以处理加密数据的服务器端变分AutoEncoder来转移学习。
translated by 谷歌翻译
组合性是解决组合复杂性和维度诅咒的关键策略。最近的工作表明,可以学习组合解决方案,并在各种领域提供实质性收益,包括多任务学习,语言建模,视觉问答,机器理解等。然而,当必须共同学习模块参数及其组成时,这些模型在训练期间呈现出独特的挑战。在本文中,我们确定了其中的几个问题并分析了它们的根本原因。我们的讨论侧重于网络,这个问题的一般方法,并根据经验检验这些挑战和各种设计决策的相互作用。特别地,我们考虑算法如何决定模块化,算法如何更新模块以及算法是否使用规则化的效果。
translated by 谷歌翻译
我们提出了无切割标记的后续结石,用于代理逻辑中的中心形式:带有时间算子的STIT逻辑。这些包括Ldm,Tstit和Xstit的序列系统。所有的结石都具有基本的结构特性,如收缩和切割可容许性。标记的Calculi G3Ldm和G3TSTIT相对于非反射性时间帧显示出完整和完整。此外,我们通过显示也可以通过关系帧来表征alsoXSTIT来扩展当前结果,省略了使用BT + ACframes。
translated by 谷歌翻译
在临床护理中使用人工智能来改善决策支持系统正在增加。这并不奇怪,因为通过其非常自然,医学实践包括基于来自人体内外不同系统的观察做出决定。在本文中,我们将三种一般系统(ICU,糖尿病和合并症)结合起来并用它们进行患者临床预测。我们使用人工智能方法来证明我们可以改善住院糖尿病患者的死亡率预测。我们通过利用机器学习方法来选择更有可能预测死亡率的临床输入特征。然后,我们使用这些特征创建混合死亡率预测模型,并将我们的结果与非人工智能模型进行比较。简单,我们将输入功能限制在患者合并症和特征中,这些特征源于众所周知的死亡率测量,序贯器官衰竭评估(SOFA)。
translated by 谷歌翻译