无监督学习是关于捕捉变量之间的依赖关系,并且由这些变量的可能与不可能的配置之间的对比驱动,通常是通过仅对可能性进行采样的生成模型或对于可能的低的能量函数(非标准化的对数密度)和不可思议的高。在这里,我们考虑学习能量函数和有效的近似抽样机制。尽管生成对抗网络(GAN)中的识别者学会分离数据和生成器样本,但在生成器上引入熵最大化正则化可以将批评者的解释转化为能量函数,将训练分布与其他所有内容分开,从而可以用于任务像异常或新奇的检测。然后,我们展示了如何在发生器潜在空间中完成MarkovChain Monte Carlo,其样本可以映射到数据空间,从而产生更好的样本。这些样本用于估计数据空间能量函数的对数似然梯度所需的负相位梯度。为了最大化发电机输出端的熵,我们利用最近引入的相互信息的神经估计器。我们发现除了为异常检测产生有用的评分函数之外,所得到的方法产生清晰的样本,同时很好地覆盖模式,导致高的Inception和Frechet分数。
translated by 谷歌翻译
基于van den Oord等人(2017)提出的方法,我们展示了一种有效音乐分解的条件自回归流水线。分解(Casal&Casey,2010)着重于重新制作现有的音乐作品,坚持高水平的结构,同时也重新想象工作的其他方面。这可能涉及重用预先存在的主题或原始部分的部分,同时还需要灵活地在不同的粒度级别生成新内容。将上述建模管道应用于重构,我们在和弦序列注释上展示了多样化和结构化的生成条件。
translated by 谷歌翻译
高光谱图像(HSI)分类广泛用于分析遥感图像。高光谱图像包括不同的图像带。卷积神经网络(CNN)是最常用的基于深度学习的视觉数据处理方法之一。在最近的工作中也可以看到CNN用于HSI分类。这些方法主要基于2D CNN。然而,HSI分类性能高度依赖于空间和光谱信息。由于计算复杂性增加,很少有方法利用3D CNN。该信提出了用于HSI分类的混合光谱卷积神经网络(HybridSN)。基本上,HybridSN是频谱空间3D-CNN,其后是空间2D-CNN。 3D-CNN促进来自一叠光谱带的联合空间光谱特征表示。 3D-CNN顶部的2D-CNN进一步学习更抽象的空间表示。此外,与单独的3D-CNN相比,使用混合CNN降低了模型的复杂性。通过这种混合方法的表现,在Indian Pines,Pavia University和Salinas Sceneremote传感数据集上进行了非常严格的HSI分类实验。将结果与最先进的手工制作以及端到端深度学习方法进行比较。使用所提出的用于HSI分类的HybridSN获得了令人满意的性能。源代码可以在\ url {https://github.com/gokriznastic/HybridSN}找到。
translated by 谷歌翻译
以批准选票为基础的委员会组建涉及汇总个人对选民的批准。选民提交候选人的批准,并将这些批准汇总在一起,以达到指定规模的最佳委员会。文献中提出了几种聚合技术,这些技术在它们优化的标准函数方面各不相同。选民对候选人的偏好取决于他/她对候选人适用性的看法。我们注意到候选人具有使他/她适合或以其他方式适合的属性。因此,批准属性并选择具有已批准属性的候选者是相关的。本文讨论了选民在属性上提交批准时的委员会选择问题。虽然基于属性的偏好在几种情况下得到解决,但是早先没有尝试过具有属性批准的委员会选择问题。 Wenote认为,将候选人批准理论扩展到属性审批委员会选择问题并非易事。在本文中,我们研究了这个问题的不同方面,并表明当考虑基于属性的批准时,现有的聚合不会满足一致性和合理表示。我们提出了一种新的聚合规则,它满足上述两个特性。我们还提出了委员会选择问题的其他分析。
translated by 谷歌翻译
诸如Adam和RMSProp等自适应方法被广泛用于深度学习,但尚未被充分理解。在本文中,我们寻求在非凸面环境中对其行为进行清晰,清晰和精确的描述。为此,我们首先提供一种新的自适应方法视图作为预处理SGD,其中预处理器以在线方式估计。通过研究它自己的预处理器,我们阐明了它的目的:它重新调整随机梯度noiseto静止点附近的各向同性,这有助于逃避鞍点。此外,我们表明自适应方法可以有效地估计上述预处理器。通过将这两个组件粘合在一起,我们为任何自适应方法提供了第一个(据我们所知)二阶收敛结果。我们的分析的关键见解是,与SGD相比,自适应方法更快地逃离鞍点,并且可以更快地收敛到二阶静止点。
translated by 谷歌翻译
多语言NLP任务的并行语料库,像统计机器翻译系统这样的深度学习应用程序非常重要。根据系统的要求,可用于新闻翻译任务直到日期的印地语 - 英语语言对的并行大小非常​​有限。在这项工作中,我们开发了一个自动并行语料库系统原型,它创建了印地语 - 英语平行语料库,用于新闻翻译任务。为了验证生成的并行质量,我们通过采用各种性能指标进行了实验,结果非常有趣。
translated by 谷歌翻译
机器人团队需要有效的沟通才能解决复杂的协作任务。在实践中,通信的编码和语义通常由专家手动定义;无论行为本身是定制的,基于优化的还是学习的,都是如此。我们使用神经网络来呈现代理体系结构和训练方法,以基于不知道通信的专家策略的示例来学习面向任务的通信语义。 Aperimeter防御游戏说明了系统能够处理动态变化的代理数量及其在性能方面的优雅降级,因为通信约束被收紧或专家的可观察性假设被打破。
translated by 谷歌翻译
Twitter最近在危机期间被用于与官员沟通并实时提供救援和救援行动。事件的地理位置信息以及用户在这些场景中至关重要。地理位置的识别是具有挑战性的任务之一,因为位置信息字段(例如用户位置和推文的地名)不可靠。从tweettext中提取位置信息很困难,因为它包含许多非标准的英语,语法错误,拼写错误,非标准缩写等等。本研究旨在使用基于卷积神经网络(CNN)的模型提取推文中使用的位置词。我们与地震相关的推文达到了0.929的准确匹配分数,汉明损失0.002和$ F_1 $ -score 0.96。我们的模型能够提取甚至三到四个字的长期位置参考,这也可以从超过92%的精确匹配得分中看出。本文的研究结果有助于早期事件本地化,紧急情况,实时道路交通管理,本地化广告以及各种基于位置的服务。
translated by 谷歌翻译
对于高维配置空间中的运动规划,重要的计算瓶颈是碰撞检测。我们的目标是通过使用碰撞测试的结果创建配置空间的置信模型来减少预期的碰撞检查次数。我们假设机器人的配置空间是连续的环境空间,因此邻居点倾向于共享相同的碰撞状态。这使我们能够制定出一种概率模型,该模型为未评估的配置赋予了无碰撞的信念。我们已经提出了用于评估C空间信念的各种kNN方法和距离度量的详细比较分析。我们还在C空间中提出了一个加权矩阵来改善kNN方法的性能。此外,我们提出了一种拓扑方法,它利用C空间的高阶结构来生成信念模型。我们的结果表明,我们提出的拓扑方法在计算效率的同时,通过实现更高的模型精度来优于kNN方法。
translated by 谷歌翻译
在机器人植物表型分析能力之前必须解决的一个迫在眉睫的问题可能对作物改良计划的可再生性产生重大影响。高通量表型分析(HTP)使用机器人技术分析作物以确定具有有利性状的物种,然而,目前的做法依赖于在育种实验中监测的整个作物田的详尽覆盖和数据收集。这在较小的农业领域中工作,但不能扩大到较大的农业领域,从而限制了遗传学研究的进展。在这项工作中,我们提出了一种主动学习算法,使自治系统能够收集信息量最大的样本,以便借助高斯过程模型准确地了解该领域中的表型分布。与高粱表型数据收集的当前实践相比,我们证明了我们提出的算法的优越性能。
translated by 谷歌翻译