贝叶斯优化(BO)是指用于对昂贵的黑盒函数进行全局优化的一套技术,它使用函数的内省贝叶斯模型来有效地找到最优值。虽然BO已经在许多应用中成功应用,但现代优化任务迎来了传统方法失败的新挑战。在这项工作中,我们展示了Dragonfly,这是一个开源Python库,用于可扩展和强大的BO.Dragonfly包含多个最近开发的方法,允许BO应用于具有挑战性的现实世界环境;这些包括更好的处理更高维域的方法,当昂贵函数的廉价近似可用时处理多保真评估的方法,优化结构化组合空间的方法,例如神经网络架构的空间,以及处理并行评估的方法。此外,我们在BO中开发了新的方法改进,用于选择贝叶斯模型,选择采集函数,以及优化具有不同变量类型和附加约束的过复杂域。我们将Dragonfly与一套用于全局优化的其他软件包和算法进行比较,并证明当上述方法集成时,它们可以显着改善BO的性能。 Dragonfly图书馆可在dragonfly.github.io上找到。
translated by 谷歌翻译
许多现实世界的应用可以被构造为多目标优化问题,我们希望同时针对多个标准进行优化。当所讨论的功能的评估是昂贵的时,用于多目标设置的贝叶斯优化技术是相关的。用于多目标优化的传统方法,无论是贝叶斯还是其他方式,都旨在恢复这些目标的帕累托前沿。然而,在某些情况下,由于外部考虑,从业者可能希望仅在帕累托前沿的特定区域中识别帕累托最优点。在这项工作中,我们提出了一种策略,该策略基于解决该问题的目标的随机标量化。虽然在计算上与其他方法相似或相似,但我们的方法足够灵活,可以从帕累托前沿或整个前端的特定子集中进行采样。我们还在多目标背景下引入了一种遗憾的新观念,表明我们的策略存在次线性遗憾。我们尝试了合成和现实问题,并展示了我们提出的算法的灵活性,可扩展性和遗憾的优越性能。
translated by 谷歌翻译
本文研究了神经自注意解析器在转换语音上的表现。语音呈现解析未出现在写入文本中的挑战,例如缺少标点符号和语音满足的存在(包括填充的暂停,重复,校正等)。对于传统的语法分析器,通常无法找到任何语法解析器时,不流畅性尤其成问题完全是EDITED不流畅的节点。这促使特殊不流畅检测系统的发展,以及专门用于处理不流利的解析器的特殊机制。然而,我们在这里表明,神经解析器可以找到EDITED不流畅节点,并且最好的神经传播者发现它们的准确度超过了专门的不流畅检测系统,因此不需要这些专门的机制。本文还研究了一种修正的损失函数,它将更多的权重放在了EDED节点上。它还描述了通过提供不流畅的句法信息和句法信息来简化不满足检测任务的树变换。
translated by 谷歌翻译
鲁宾引入的面部花瓶错觉演示了如何根据图形轮廓的分配方式在两种不同的解释之间进行切换[1]。边界所有权分配是形式感知的重要一步。周等人。 [2]在视觉皮层中发现了神经元,其反应不仅依赖于其经典感受野中存在的局部特征,而且还依赖于它们的背景信息。各种模型提出,来自较高腹侧区域或侧向连接的反馈可以提供所需的背景信息。然而,一些研究[3,4,5]排除了仅基于边界连接的模型的合理性。此外,进一步的证据[6]表明,即使从V4开始,腹侧反馈也不足以为V1或V2中的边界所有权神经提供背景。因此,大脑中的边境所有权分配机制是一个尚待解决的谜团。在这里,我们用计算模拟测试假设背侧流向腹侧流中的边界所有权单元提供全局信息。我们提出的模型包括来自背侧通路的早期复发以及腹侧流内的侧向调节。我们的模拟实验表明,我们的模型边界所有权神经元,类似于它们的生物对象,对边界两侧的数字表现出不同的反应。
translated by 谷歌翻译
近年来,自然语言处理社区已经远离任务特定的特征工程,即研究人员发现各种任务的特征表示,有利于通过自己学习输入表示的通用方法。然而,在自发语音转录本中对不流畅检测的最新方法目前仍然依赖于一系列手工制作的特征,以及源自诸如语言模型或依赖性解析器的预先存在的系统的输出的其他表示。作为替代方案,本文提出了一种简单的自动不流动检测的自然效应模型,称为自相关神经网络(ACNN)。该模型使用卷积神经网络(CNN)并在最低层使用新的自相关算子对其进行增强,该算子可以捕获特定于语音中修复不满的“粗略复制”依赖性。在实验中,ACNN模型在不流畅检测任务上执行基线CNN,f分数增加5%,接近此任务的先前最佳结果。
translated by 谷歌翻译
本文提出了一种自发语音转录中不流畅检测的模型,称为LSTM噪声信道模型。该模型使用Noisy ChannelModel(NCM)生成n个最佳候选不流畅分析和LongShort-Term Memory(LSTM)语言模型,以对每个分析的基础流利句进行评分。 LSTM语言模型得分以及其他特征在MaxEnt reranker中用于识别最可信的分析。我们表明,在噪声通道不流畅模型的重新排序过程中使用LSTM语言模型改进了不流畅检测的最新技术。
translated by 谷歌翻译