无监督维度选择是寻求降低数据维度的重要问题,同时保留最有用的特征。降维度通常用于构建低维度嵌入,它们产生难以解释的特征空间。此外,在诸如传感器设计之类的应用中,需要直接在输入域中执行缩减,而不是构造变换空间。因此,维度选择(DS)旨在解决识别最高$ k $维度的组合问题,这是有效实验设计所需的,在保持可解释性的同时减少数据,以及设计更好的感知机制。在本文中,我们基于图形信号分析开发了一种新的DS方法来测量特征影响。通过分析具有蓝色噪声谱的合成图形信号,我们表明我们可以测量每个维度的重要性。通过在监督学习和图像掩蔽中的实验,我们证明了所提出的方法优于现有技术在捕获高维空间的关键特征方面的优越性,仅使用原始特征的一小部分。
translated by 谷歌翻译
Interpretability has emerged as a crucial aspect of machine learning, aimed at providing insights into the working of complex neural networks. However , existing solutions vary vastly based on the nature of the interpretability task, with each use case requiring substantial time and effort. This paper introduces MARGIN, a simple yet general approach to address a large set of interpretability tasks ranging from identifying prototypes to explaining image predictions. MARGIN exploits ideas rooted in graph signal analysis to determine influential nodes in a graph, which are defined as those nodes that maximally describe a function defined on the graph. By carefully defining task-specific graphs and functions, we demonstrate that MARGIN outperforms existing approaches in a number of disparate interpretability challenges.
translated by 谷歌翻译
强化学习中的选项框架模拟了技能或时间延长的动作序列的概念。发现可重复使用的技能通常需要构建选项,导航到瓶颈状态。这项工作采用了一种互补的方法,我们试图找到导航到具有里程碑意义的国家的选择。这些状态是连接良好的区域的原型代表,因此可以相对容易地访问相关区域。在这项工作中,我们提出了Successor Options,它使用Successor Representations来构建状态空间模型。使用新颖的伪奖励来学习这些选项策略,并且可以轻松地将模型转换为高维空间。此外,我们还提出了一个在构造成功表示和构建选项之间迭代的增量后继选项模型,当robustSuccessor表示不能仅仅从原始操作构建时,这很有用。我们展示了我们的方法对网格世界的集合以及Fetch的高维机器人控制环境的功效。
translated by 谷歌翻译
今天的高风险对抗性互动让攻击者不断突破不断改进的安全措施。欺骗通过误导攻击者做出次优决策来减轻防御者的损失。为了正当理由欺骗,我们引入了特征欺骗游戏(FDG),这是一个独立于领域的游戏理论模型,并提出了学习和规划框架。我们做出以下贡献。 (1)我们表明,我们可以使用来自适度数量的欺骗策略的数据统一学习对手的偏好。 (2)我们提出了一种近似算法,用于找出最优欺骗策略,并证明该问题是NP难的。 (3)我们进行了全面的实验,以实证验证我们的方法和结果。
translated by 谷歌翻译
我们提出了一种学习嵌入式几次学习的方法,该方法适用于任何方式和任意数量的镜头(无镜头)。除了将类原型固定为样本嵌入的欧几里德平均值之外,我们允许它们生活在更高维度的空间(嵌入式类模型)中,并学习原型和模型参数。类表示函数是隐式定义的,它允许我们使用简单的恒定大小结构来处理每个类的可变数量的镜头。类嵌入包含度量学习,这有助于在不占用类表示空间的情况下添加新类。尽管一般而且没有调整到基准,但我们的方法在标准的少数基准数据集上实现了最先进的性能。
translated by 谷歌翻译
自动化应用正在推动在仓库和制造环境中部署许多高DoFmanipulator。这促使人们努力优化涉及单臂的操纵任务。然而,协调多个臂以进行操纵,引入了由增加的DoF引起的额外的计算挑战,以及许多操纵器可执行的可用操作的组合增加,包括臂之间的切换。这里的重点是寻找和放置任务的情况,这需要执行一系列切换,从而实现计算效率,渐近最优性和实际时间性能。本文利用多机器人运动规划的最新进展,为高DoF系统提出了一种新的dRRT *算法的多模态扩展。关键的见解是,在给定可能的拾取和切换配置的输入集的情况下,直接探索集成多臂任务和运动规划问题的复合空间,而不是天真地解决运动规划问题的序列。渐近最优性保证是通过随着时间的推移采样额外的选择和移交可能。评估表明,该方法可以快速找到初始解,并随着时间的推移提高其质量。它还成功地将解决方案引入到与替代方案相关的更难的问题实例中,并且随着机器人数量的增加而有效地扩展。
translated by 谷歌翻译
深度学习是计算机科学中发展最快的技术之一,具有多种应用。但到目前为止,这种前所未有的增长仅限于深度学习专家的消费。主要的挑战是学习编程库的陡峭学习曲线和直观系统的缺陷,使非专家能够消耗深度学习。为了实现这一目标,我们研究了无代码范式的有效性,以设计深度学习模型。特别是,与传统的编程和替代的可视编程范例相比,可视化的拖放界面更有效。我们进行不同专家级别的用户研究,以测量不同编程范例中的入门级障碍和开发人员负载。对于传统的编程方法,我们获得了90的系统可用性量表(SUS)和建议的可视编程的NASA任务负载指数(TLX)得分为21和68和52。
translated by 谷歌翻译
基于编码器 - 解码器的神经架构作为端到端开放域对话系统中最先进方法的基础。由于大多数此类系统都采用最大似然(MLE)目标进行训练,因此无法解决诸如缺乏普遍性和一般响应问题等问题,即系统响应可能是对大量用户话语的回答,例如“也许,我不知道。“通过选择来自不同方法的响应,在每个回合中对系统响应的相关性和兴趣性有明确的反馈可以是减轻这些问题和提高系统质量的有用信号。为实现这一目标,我们提出了一个系统,用于评估每个对话框的聊天机器人响应,以实现一致性和一致性。我们的系统提供明确的转弯级别对话质量反馈,我们表明它与人类评估高度相关。为了表明在神经反应生成模型中包含这种反馈提高了对话质量,我们提出了两种不同的互补机制,将显式反馈纳入神经反应生成模型:在训练期间重新激活和直接修改损失函数。 Ourstudies表明,包含这些组合反馈机制的响应生成模型在开放域语音对话设置中产生更具吸引力和连贯性的响应,使用自动和人工评估显着提高响应质量。
translated by 谷歌翻译
在实际大规模机器学习中使用的步长调度与由随机近似理论认为是最优的步长调度之间存在明显的差异。理论上,大多数结果利用多项式衰减学习速率时间表,而在实践中,“StepDecay”时间表是最受欢迎的时间表之一,其中学习速率被切割每个恒定数量的时期(即,这是几何衰减时间表)。这项工作考察了流量最小二乘回归的随机优化问题的步骤衰减时间表(在非强凸和强凸的情况下),其中我们表明最佳学习速率时间表的尖锐理论表征远比前面提到的更为细微。工作。我们特别关注使用随机梯度下降的最终迭代时可达到的速率,这在实践中是常见的。我们的主要结果可证明,适当调整的几何衰减学习率计划提供了任何多项式衰减学习率计划的指数改进(就条件数而言)。我们还为这些结果的广泛适用性提供实验支持,包括用于培训现代深度神经网络。
translated by 谷歌翻译
诸如场景图之类的结构化表示用作可用于下游渲染或检索任务的有效且紧凑的表示。然而,现有的从场景图生成逼真图像的努力对于杂乱或复杂场景的场景合成执行不佳。我们提出了改善场景构成的一些贡献。首先,我们使用基于启发式的关系增强场景图表示,这增加了最小的存储开销。其次,我们使用极值点表示来监督场景组合网络的学习。这些方法比现有工作具有更高的性能(69.0%与51.2%的关系得分)。我们还演示了如何使用场景图来检索在语义上与sourcequery类似的从属约束的图像补丁。改进用于渲染或重新检索的结构化场景图表示是朝向逼真图像生成的重要步骤。
translated by 谷歌翻译