变序序列建模是人工和自然智能中的一个重要问题。虽然过度完备隐马尔可夫模型(HMMs),理论上具有表示长期时间结构的能力,但它们常常难以学习并收敛到局部最小值。我们通过使用受生物学启发的简单稀疏结构来约束HiddenMarkov模型(HMM),我们可以使它有效地学习变量序列。我们将此模型称为克隆HMM(CHMM),因为稀疏性结构强制许多隐藏状态确定性地映射到相同的发射状态。具有超过10亿个参数的CHMM可以在GPU上进行有效训练,而不会受到标准HMM的信用扩散问题的严重影响。与n-gram和序列记忆器不同,CHMM可以在任意长距离上建模时间依赖性,并识别其中带有“洞”的上下文。与RecurrentNeural Networks相比,CHMM是可以原生地处理不确定性的生成模型。此外,CHMM返回一个高阶图,表示数据的时间结构,可用于社区检测,以及构建分层模型。我们的实验表明,CHMM可以在字符级语言建模任务上击败字符串,序列记忆器和LSTM。在需要变量订单序列建模和处理不确定性的一些任务中,CHMM可以是这些方法的可行替代方案。
translated by 谷歌翻译
人类可以从图像对中推断出概念,并在物理世界中以完全不同的方式应用这些概念,从而实现像IKEA汇编这样的任务。如果机器人可以表示和推断高级概念,那么它将显着提高他们理解我们的意图和在不同环境之间转移的能力。为此,我们引入了一个复制人类概念学习方面的计算框架。概念被表示为新颖的计算机体系结构上的程序,该体系结构由视觉感知系统,工作记忆和动作控制器组成。该“认知计算机”的指令集具有解析视觉场景,引导和注意力,想象新物体,操纵视觉工作记忆内容和控制手臂运动的命令。推断一个概念对应于诱导一个可以将输入转换为输出的程序。一些概念需要使用想象和递归。以前学过的概念简化了后续更复杂概念的学习,并创建了抽象层次结构。我们演示了机器人如何使用这些抽象来解释作为示意图像呈现给它的新概念,然后在截然不同的情况下应用这些概念。通过将关于心理意象,感知符号,体现认知和指示机制的认知科学思想带入机器学习领域,我们的工作使我们更接近建立具有可解释性代表和常识的机器人的目标。
translated by 谷歌翻译
了解皮质回路的信息处理角色是神经科学和人工智能中的一个突出问题。贝叶斯推理的理论设置已被建议作为理解皮质计算的框架。基于最近发表的用于视觉推理的生成模型(George等,2017),我们推导出一系列解剖学实例化和功能性皮层电路模型。与贝叶斯推理的简单模型相反,潜在的生成模型的代表性选择通过需要有效推理和强泛化的现实任务来验证。通过系统地比较该模型的计算要求与已知的解剖学约束来获得皮层电路模型。推导的模型表明在不同的薄层和柱中观察到的前馈,反馈和侧向连接的精确功能作用,并为通过丘脑的路径分配计算作用。
translated by 谷歌翻译
我们建立了基于Kaplan-Meier的最近邻和核生存概率估计的第一个非渐近误差界,其中特征向量位于度量空间中。我们的界限意味着这些非参数估计的强一致性率,并且高达对数因子,与现有的条件CDF估计的下限相匹配。我们的证明策略还为Nelson-Aalen累积危险估计器的最近邻和核变体提供了非渐近保证。我们通过实验比较了这四种数据集的方法。我们发现,对于核心生存估计,核心的选择是使用随机生存森林学习的。
translated by 谷歌翻译
本文针对具有静态障碍的约束工作空间中的多个水下航行器操纵系统(UVMS)进行协同物体运输的问题,其中协调仅依赖于机器人与普通抓取物体的物理相互作用引起的隐性通信。我们提出了一种新颖的分布式领导者 - 跟随式结构,其中领先的UVMS,其具有对象的期望轨迹的知识,试图通过阻抗控制定律实现期望的跟踪行为,以这种方式导航,朝向目标配置的整体形成,同时避免碰撞有障碍。另一方面,以下UVMS通过新规定的性能估计法则估计物体的期望轨迹,并实施类似的阻抗控制定律。反馈依赖于每个UVMS的力/扭矩测量,并且没有明确的数据在机器人之间在线交换。此外,控制方案根据其特定的有效负载能力采用UVMS之间的负载分配。最后,各种模拟研究阐明了所提出的方法并验证了其效率。
translated by 谷歌翻译
强化学习中的参数化动作由具有连续动作参数的离散动作组成。这提供了一个解决复杂域的框架,需要将高级操作与灵活控制相结合。最近的P-DQN算法扩展了深度Q网络以学习超过空间。但是,它将所有动作参数视为Q网络的单个联合输入,使其理论基础无效。我们用这种方法分析问题,并提出一种新方法,多次通过深度Q网络或MP-DQN来解决这些问题。我们凭经验证明MP-DQN在平台,机器人足球目标和半场进攻域的数据效率和融合策略性能方面明显优于P-DQN和其他先前的算法。
translated by 谷歌翻译
在过去几年中,我们一直在目睹网络上错误信息的兴起。人们在日常生活中成为假新闻的受害者,并在无意中帮助他们进一步传播。有许多举措试图减轻虚假新闻造成的损害,重点放在来自域名列表,在线社交网络或人工智能的信号上。在这项工作中,我们提出了Check-It,这是一个以智能方式将各种信号组合到管道中以进行假新闻识别的系统。 Check-It是一个Web浏览器插件,具有高效和及时的假新闻检测目标,尊重用户的隐私。实验结果表明,Check-It能够胜过最先进的方法。在数据集上,由9百万个标记为假和真实的文章组成,Check-It获得的分类准确度高达99%。
translated by 谷歌翻译
我们考虑深度神经网络的效率。随着机器学习成为高性能计算的驱动因素之一,硬件加速器引起了人们的兴趣。在这些加速器中,描述神经网络的有向图可以实现为描述布尔电路的有向图。我们使这一观察精确,自然地导致将实际神经网络理解为离散函数,并表明所谓的二元神经网络在功能上是完整的。一般来说,我们的结果表明将布尔电路视为神经网络是有价值的,这导致了哪种电路拓扑很有前景的问题。认为连续性是学习泛化的核心,探索数据编码,网络拓扑和连续性节点功能之间的相互作用,并为未来的研究提出一些开放性问题。作为弥合神经网络加速器的连续视图和布尔视图之间差距的第一步,我们提出了我们在LUTNet上的一些最新结果,LUTNet是一种新颖的现场可编程门阵列推理方法。最后,我们总结了研究桥接神经网络的连续和离散视图的可能的富有成效的途径。
translated by 谷歌翻译
科学计算中的一个开放性问题是非线性随机偏微分方程(SPDEs)的长期积分。我们利用科学机器学习的最新进展以及用于表示随机过程的动态正交(DO)和双正交(BO)方法来解决这个问题。具体来说,我们提出两个新的物理信息神经网络(PINNs)来解决时间相关的SPDE,即NN-DO / BO方法,它们将DO / BO约束结合到具有隐式形式的损失函数中,而不是为时间生成显式表达式DO / BO模式的衍生物。因此,所提出的方法会遇到原始DO / BO方法的一些缺点:我们不需要假设随机系数的协方差矩阵与原始DO方法一样是可逆的,并且我们可以去除非特征值交叉的假设,如同原始的BO方法。此外,NN-DO / BO方法可用于解决与时间相关的随机逆问题,其具有与前向问题相同的公式和计算复杂度。通过几个数值例子,证明了所提方法的能力:(1)具有确定性初始条件的线性随机平流方程,其中原始DO / BO方法失败; (2)在原始BO方法失效的整个时间演化过程中,随机Burgers方程与许多特征值交叉的长时间积分。 (3)非线性反应扩散方程:我们考虑前向和反向问题,包括噪声初始数据,以研究NN-DO / BO方法在处理逆和混合类型问题时的灵活性。总之,这些模拟结果表明,NN-DO / BO方法可用于有效地量化各种物理问题中的不确定性传播。
translated by 谷歌翻译
智力可以被定义为主要是人类完成任务的能力,这些能力通常对计算机和动物来说很难。 ArtificialIntelligence [AI]是一个试图用计算机完成这些任务的领域。人工智能正在变得越来越普遍,与生物智能的关系也越来越普遍。这些主张通常意味着特定技术成功的机会更多,假设模仿生物智能机制的AI系统应该更加成功。在本文中,我将讨论AI与我们对智力生物学机制的知识程度的相似性和差异,特别是在人类中。我还将探讨人工智能系统中的仿生学有助于其进步的假设的有效性,并且我认为,人工神经网络[ANNs]处理任务的方式与生物系统的现有相似性是由于设计决策,而不是潜在机制的固有相似性。本文针对的是理解人工智能(尤其是人工神经网络)基础知识的人,并希望能够更好地评估人工智能中关于仿生学价值的常见声明。
translated by 谷歌翻译