在本文中,我们提出了TauRieL和目标旅行商问题(TSP),因为它在理论和应用科学中具有广泛的适用性。 TauRieLutilizes一个由演员评论家启发的架构,它采用普通的feedforwardnets来获取策略更新向量$ v $。然后,我们使用$ v $来改进生成策略的状态转换矩阵。此外,状态转换矩阵允许求解器从预先计算的解决方案(例如最近邻居)初始化。在在线学习环境中,TauRieL统一了训练和搜索,它可以在几秒钟内产生近乎最佳的结果。在演员评论体系结构中对神经网络的输入是原始的2-Dinputs,这个决定背后的设计理念是保持神经网络比具有宽嵌入的体系结构小,其中省略了嵌入的任何分布式表示。因此,与最先进的离线技术相比,TauRieL生成的TSP解决方案比TSP实例快两个数量级。 6.1 \%在最坏的情况下。
translated by 谷歌翻译
本文介绍了一种算法,用于规划安全和最佳路线的运输设施,其中无限制的运动方向在具有障碍物的区域内行进。论文解释了使用船舶作为这种运输设施的示例的算法。本文还提供了针对该问题的severalexisting解决方案的调查。该方法采用进化算法来规划若干局部最优路线和平行遗传算法,以通过优化上述一组路径来创建最终路线。假设最佳路线是具有最低到达时间的路线,则针对到达时间优化路线。也可以对路线应用额外的限制。
translated by 谷歌翻译
在这项研究中,我们提出了仿射变分自动编码器(AVAE),变体自动编码器(VAE)的变量,旨在通过避免VAE无法推广到仿射扰动形式的分布变化来提高鲁棒性。通过优化仿射变换以最大化ELBO,所提出的AVAE将输入转换为训练分布而不需要增加模型复杂度以模拟仿射变换的完整分布。此外,我们引入了一个培训程序,通过学习训练分布的子集来创建有效的模型,并使用AVAE来改善分布式移位证明时间的泛化和鲁棒性。对仿射扰动的实验表明,所提出的AVAE显着改善了仿射扰动形式的分布均匀性的推广和鲁棒性,而不增加模型复杂性。
translated by 谷歌翻译
尽管其重要性,乘客需求预测仍然是一个具有高度挑战性的问题,因为需求同时受到许多空间和时间因素与其他外部因素(如天气)之间的复杂相互作用的影响。为了解决这个问题,我们提出了一个Spatio-TEmporalFuzzy神经网络(STEF-Net)来准确预测乘客需求,以解决所有已知重要因素的复杂相互作用。我们设计了一个端到端的学习框架,其中不同的神经网络建模了不同的因素。具体而言,我们建议通过卷积长短期记忆网络和模式神经网络捕获时空特征交互,模糊神经网络处理的数据不确定性明显优于确定性方法。为了在融合两个网络时保持时间关系并强调有区别的时空特征交互,我们采用了一种新的特征融合方法,即卷积操作和注意层。据我们所知,我们的工作是第一个深度递归神经网络和模糊神经网络来模拟复杂的时空特征相互作用与额外的不确定输入特征进行预测学习。在大型真实世界数据集上的实验表明,我们的模型比最先进的方法实现了超过10%的改进。
translated by 谷歌翻译
深度学习建立在梯度下降与目标函数收敛于局部最小值的基础上。不幸的是,这种保证在诸如生成对抗网之类的设置中失败,这些设置表现出多种相互作用的损失。基于梯度的方法在游戏中的行为并未被理解 - 并且随着对抗性和多目标体系结构的激增而变得越来越重要。在本文中,我们开发了新的工具来理解和控制n玩家可区分游戏的动态。关键的结果是将雅可比游戏分解为两个组成部分。第一个对称分量与潜在的游戏有关,这些游戏在隐式函数上减少了梯度下降。第二个反对称组件涉及哈密尔顿游戏,这是一类新的游戏,遵循经典机械系统中的守恒定律。分解激发了辛差梯度调整(SGA),这是一种在可微分游戏中寻找稳定不动点的新算法。基本实验表明,SGA与最近提出的用于在GAN中找到稳定的固定点的算法具有竞争性 - 同时适用于并且具有更多一般情况的保证。
translated by 谷歌翻译
与短期交易者不同的长期投资者专注于研究影响公司福祉的潜在力量。他们依靠基础分析来试图衡量股权的内在价值。定量投资研究人员已经确定了一些价值因素来确定股票的投资成本并比较不同的股票。本文提出使用序列预测模型来预测公司的价值因子 - 收益率(EBIT / EV)以进行选股。研究了两种先进的序列预测模型 - 长期短期记忆(LSTM)和门控递归单位(GRU)网络。这两种模型可以克服标准递归神经网络的固有问题,即消失和爆炸梯度。本文首先介绍了网络的理论。然后详细介绍了库存池创建,特征选择,数据结构,模型设置和模型评估的工作流程。与传统的前馈神经网络模型相比,LSTM和GRU模型表现出更高的预测精度。 GRU模型略微优于LSTM模型。
translated by 谷歌翻译
深度学习是基于学习数据表示的更广泛的机器学习方法系列的子集。这些模型受到人类生物神经系统的启发,即使存在与生物大脑的结构和功能特性有关的各种差异。深度学习模型的基本构成是神经元,可以将其视为接收输入并产生输出的函数,该输出是通过激活函数馈送的输入的加权和。在这些年中提出了几种神经元模型,这些模型都基于可学习的参数称为权重。在本文中,我们提出了一种新型的人工神经元,即双重神经元,其特征在于额外的可学习权重,从而导致更复杂和准确的系统。我们在MNIST数据集上测试了由双重神经元组成的前馈和卷积神经网络,并在CIFAR-10数据集上测试了卷积网络。对于MNIST,与使用相同的超参数集构建的标准前馈和卷积神经网络相比,我们分别找到$ \大约4 \%$和$ \大约1 \%$改进的分类准确度。对于CIFAR-10,我们发现$ \大约12%的分类精度提高了。因此,我们得出结论,这种新型人工神经元可以被认为是普通人工神经元的有价值的替代品。
translated by 谷歌翻译
Supervised classification is the most active and emerging research trends in today's scenario. In this view, Artificial Neural Network (ANN) techniques have been widely employed and growing interest to the researchers day by day. ANN training aims to find the proper setting of parameters such as weights (W) and biases (b) to properly classify the given data samples. The training process is formulated in an error minimization problem which consists of many local optima in the search landscape. In this paper, an enhanced Particle Swarm Optimization is proposed to minimize the error function for classifying real-life data sets. A stability analysis is performed to establish the efficiency of the proposed method for improving classification accuracy. The performance measurement such as confusion matrix, F-measure and convergence graph indicates the significant improvement in the classification accuracy.
translated by 谷歌翻译
信息融合是众多工程系统和生物功能的重要组成部分,例如人类认知。融合发生在许多层面,从信号的低级组合到异构决策过程的高级聚合。虽然过去十年见证了深度学习研究的爆发,但神经网络融合并没有观察到同样的革命。具体而言,大多数神经融合方法是特定的,不被理解,分布与局部,和/解释性低(如果存在的话)。在此,我们证明了模糊Choquet积分(ChI),一种强大的非线性聚合函数,可以表示为多层网络,以下称为ChIMP。我们还提出了一种改进的ChIMP(iChIMP),它根据ChI不等式约束的指数数量导致基于随机梯度下降的优化。 ChIMP / iChIMP的另一个好处是它可以实现可解释的AI(XAI)。提供了综合验证实验,并将iChIMP应用于远程感知中的一组异构架构深度模型的融合。我们展示了模型精度的提高,我们之前建立的XAI指数揭示了我们的数据,模型及其决策的质量。
translated by 谷歌翻译
提出了一种基于长短期记忆(LSTM)递归神经网络的大规模频谱占用学习的新范式。研究表明,频谱使用是一个高度相关的时间序列。此外,不同频率信道之间的频谱占用率存在相关性。因此,使用一维时间序列的学习和预测来揭示所有这些相关性并非易事。在本文中,我们介绍了一种用于表示atensor格式的频谱测量的新框架。其次,提出了一种基于CANDECOMP / PARFAC(CP)张量分解和LSTM递归神经网络的时间序列预测方法。所提出的方法在计算上是有效的,并且能够捕获测量光谱内的不同相关类型。此外,它具有强大的噪声和缺少感测频谱的条目。在预测精度和计算效率方面,在大规模合成数据集上评估所提出方法的优越性。
translated by 谷歌翻译