本文基于从SCADA系统收集的数据,提出了一种新颖灵活的故障预测解决方案。基于数据驱动方法提供两种不同级别的故障预测:(a)通用故障/状态预测和(b)特定故障类预测,通过基于无监督聚类算法和模式识别神经网络的两种基于机器学习的模块实现分别是网络。模型已经在六个光伏(PV)工厂的公园进行了评估,该工厂的功率高达10兆瓦,而且还有三个不同技术品牌的一百个逆变器模块。结果表明,所提出的方法在以下方面是有效的:(a)提前7天预测受试者一般性故障,灵敏度高达95%;(b)预测特定故障类别的损坏,时间从几小时到7天不等。该模型可轻松部署,用于在新的光伏电站和技术上进行在线监测,只需要提供历史SCADA和故障数据,故障分类和逆变器电气数据表。关键词:数据挖掘,故障预测,逆变模块,KeyPerformance指标,丢失生产
translated by 谷歌翻译
本文提出了一种在自然法则的一般框架下理解感知学习过程的理论。神经网络被视为辅助系统,其连接是拉格朗日变量,即依赖于时间的函数。它们用于最小化认知行为,这是衡量代理与环境相互作用的适当功能指标。认知行为包含一个潜在的动力学术语,非常类似于机器学习中正则化的经典表述。功能指数的一个特殊选择,导致四阶微分方程 - 认知行为规律(CAL)---展示了一种反映机器学习的经典形式的结构。特别地,与机械的作用不同,平稳性条件对应于全局最小值。此外,证明了权重的典型渐近学习条件可以与初始化共存,条件是系统动力学在被称为信息过载控制的策略下被驱动。最后,该理论针对特征提取计算机视觉问题进行了实验。
translated by 谷歌翻译
总的来说,反向传播(BP)被认为是机器学习进程中最重要的神经计算算法之一,包括深度学习的最新进展。然而,它的计算结构已成为许多关于其可论证的生物学可行性的辩论的根源。在本文中,表明当在拉格朗日框架中构建监督学习时,虽然可以看到后传播的自然出现,但也可以设计出基于在权重,神经学组成的学习伴随空间中搜索鞍点的生物学似是而非的局部算法。输出和拉格朗日乘数。这可能打开了一个真正新颖的学习算法类型的大门,由于引入了支持神经元的概念,优化方案在构造体系结构中也发挥了重要作用。
translated by 谷歌翻译
深度神经架构的有效性得到了实验和基础原理的广泛支持。还有一种清晰的证据表明激活功能(例如整流器和LSTM单元)在学习的复杂性中起着至关重要的作用。基于这一说法,本文讨论了功能框架中神经元非线性的最佳选择,这是从经典正则化论证中得到启发的。结果表明,最佳激活函数由训练集中的核扩展表示,可以在建模1-D聚类的适当的点集上有效地近似。这个想法可以自然地扩展到循环网络,其中基于内核的激活功能的表现力被证明是捕获长期依赖性的关键因素。我们通过一系列具有挑战性的实验给出了这种性质的实验证据,其中我们将结果与基于现有技术LSTM细胞的神经结构进行比较。
translated by 谷歌翻译
当大多数成功的方法在图像层面工作时,计算机视觉的难题可能会找到新的具有挑战性的解决方案,这比直接处理视觉流更加困难,就像在自然界中一样。在本文中,我们声称它们的处理自然导致制定运动不变性原理,这使得能够构建基于卷积特征的新的视觉学习理论。该理论解决了许多引起自然视觉的有趣问题,并为在视网膜上发现卷积滤波器提供了良好的计算方案。它们是由最小认知行为原理推导出的欧拉 - 拉格朗日微分方程驱动的,它与力学定律相似。与需要大规模监督的传统卷积网络不同,所提出的理论提供了一种真正的新场景,其中通过无监督的视频信号处理来进行特征学习。我们展示了该理论的实验报告,其中我们表明在运动不变性下提取的特征产生了可以通过测量基于信息的指数来评估的改进。
translated by 谷歌翻译
总的来说,随机梯度的行为被认为是一个具有挑战性的问题,它经常出现在统计机器学习的框架中。本文提供了一种新的视角,分析了在处理基于耗散动力学的随机梯度的广义版本时出现的在线学习模型。为了面对这些模型的复杂演化,提出了一种基于单能平衡方程的系统处理方法,该方程是通过Caldirola-Kanai(CK)哈密顿量导出的。根据这些方程,学习可以看作是与损失函数递减相对应的无序过程。最后,本文建立的主要结果是在准周期环境中,模式新颖性随着时间的推移逐渐受到限制。通过,系统动力学在权重空间中产生渐近一致的解,即解决方案将相似的模式映射到相同的决策。
translated by 谷歌翻译
神经网络在软件中变得越来越普遍,因此能够验证它们的行为是很重要的。因为验证神经网络的正确性极具挑战性,所以通常关注这些系统的其他属性的验证。特别是一个重要的特性是鲁棒性。然而,大多数现有的鲁棒性定义都集中在输入是对偶的最坏情况。这种鲁棒性的概念太强大,并且不太可能被实际的神经网络所满足和可验证。观察神经网络的实际输入是从非对抗性概率分布中得出的,我们提出了一种新的鲁棒性概念:概率鲁棒性,它要求神经网络具有至少$(1 - \ epsilon)$概率的鲁棒性。输入分布。这种概率方法是实用的,并提供了估计神经网络鲁棒性的原则方法。我们还提出了一种基于抽象解释和重要性抽样的算法,用于检查神经网络是否具有概率稳健性。我们的算法使用抽象解释来近似神经网络的行为,并计算违反鲁棒性的输入区域的近似。然后,它使用重要采样来抵消这种过度近似的影响,并计算出神经网络违反鲁棒性的概率的准确估计。
translated by 谷歌翻译
在本文中,我们提出了一种方法,用于将从源域学习的序列标记的神经模型的知识转移到在目标域上训练的新模型,其中出现新的标签类别。 Ourtransfer学习(TL)技术使得能够使用目标数据和新类别来调整源模型,而无需访问源数据。 Oursolution包括在目标模式的输出层中添加新的神经元,从源模型传输参数,然后使用目标数据进行微调。此外,我们提出了一个神经适配器来学习源和目标标签分布之间的差异,它为目标模型提供了额外的重要信息。我们在NamedEntity识别上的实验表明,(i)当目标数据包含新类别时,源模型中的学习知识可以有效地传递;(ii)我们的神经适配器进一步改善了这种传递。
translated by 谷歌翻译
在本文中,我们介绍了一种最先进的实时跟踪器(CFNet)的变体,它增加了原始算法对目标损耗的鲁棒性,而没有显着的计算开销。新方法基于以下假设:特征图可用于更准确地估计跟踪置信度。当置信度较低时,我们避免通过要素图更新对象的位置;相反,跟踪器传递到单帧失效模式,在此模式期间,补丁的低级可视内容用于在下一帧中从目标丢失恢复之前,迅速更新对象的位置。通过对几个跟踪数据集评估方法提供的实验证据验证了特征图与跟踪置信度相关的理论假设,以及所提出的实现可以在多个场景中实现目标恢复,而不会影响实时性能。
translated by 谷歌翻译
我们介绍了一种方法来提供视觉分类任务的矢量表示,可以用来推断thosetasks的性质及其关系。给定具有地面实况标签和在这些标签上定义的损失函数的数据集,我们通过“探测网络”处理图像,并基于与探测网络参数相关联的Fisher信息矩阵的估计来计算嵌入。这提供了任务的固定维度嵌入,其独立于诸如类的数量之类的细节,并且不需要理解类标签语义。我们证明这种嵌入能够预测任务相似性,这些相似性与我们对不同视觉任务之间的语义和分类关系的直觉相匹配(例如,基于对不同类型的植物进行分类的任务是相似的)我们还展示了这个框架对于选择任务的主题的实际价值。用于新任务的预训练特征提取器。我们提供了一个简单的元学习框架,用于学习嵌入度量,它能够预测哪些特征提取器将表现良好。选择具有任务嵌入的特征提取器可以获得最佳可用特征提取器的性能,同时花费大大少于成本的训练和评估。所有可用的特征提取器。
translated by 谷歌翻译