稀疏子空间聚类(SSC)是将数据点聚类到其底层子空间的最常用方法之一。然而,SSC可能遭受沉重的计算负担。正交匹配追踪应用于SSC加速计算,但权衡是集群精度的损失。在本文中,我们提出了一种噪声鲁棒算法,RestrictedConnection正交匹配追踪稀疏子空间聚类(RCOMP-SSC),通过在OMP迭代期间限制每个数据点的连接数来提高聚类精度并保持低计算时间。 。此外,我们开发了一个控制矩阵框架来实现RCOMP-SCC。该框架可扩展用于其他数据点选择策略。我们对合成数据和两个真实数据库(EYaleB和Usps)的分析和实验证明了我们的算法在准确性和计算时间方面与其他聚类方法相比的优越性。
translated by 谷歌翻译
字典学习方法可以分为两类:i)类特定字典学习ii)类共享字典学习。两类之间的差异是如何使用判别信息。对于第一类,不同类的样本被映射到不同的子空间,这导致基矢量中的一些冗余。对于第二类,不能描述每个特定类中的样本。此外,大多数类共享字典学习方法使用L0范数规则化术语作为稀疏约束。在本文中,我们首先通过引入L1范数稀疏约束来替代LC-KSVD方法中的常规L0范数正则化项,提出了一种名为标签嵌入式字典学习(LEDL)的anovel类共享字典学习方法。然后,我们提出了一种名为混合字典学习网络(HDLN)的新型网络,将类特定字典学习与类共享字典学习结合起来,充分描述该特性,以提高分类性能。六个基准数据集的广泛实验结果表明,与几种传统的分类算法相比,我们的方法能够实现卓越的性能。
translated by 谷歌翻译
Traditional neural objection detection methods use multi-scale features that allow multiple detectors to perform detecting tasks independently and in parallel. At the same time, with the handling of the prior box, the algorithm's ability to deal with scale invariance is enhanced. However , too many prior boxes and independent detectors will increase the computational redundancy of the detection algorithm. In this study, we introduce Dubox, a new one-stage approach that detects the objects without prior box. Working with multi-scale features, the designed dual scale residual unit makes dual scale detectors no longer run independently. The second scale detector learns the residual of the first. Dubox has enhanced the capacity of heuristic-guided that can further enable the first scale detector to maximize the detection of small targets and the second to detect objects that cannot be identified by the first one. Besides, for each scale detector, with the new classification-regression progressive strapped loss makes our process not based on prior boxes. Integrating these strategies, our detection algorithm has achieved excellent performance in terms of speed and accuracy. Extensive experiments on the VOC, COCO object detection benchmark have confirmed the effectiveness of this algorithm.
translated by 谷歌翻译
With the improvement of pattern recognition and feature extraction of Deep Neural Networks (DNNs), more and more problems are attempted to solve from the view of images. Recently, a Reconstructive Neural Network (ReConNN) was proposed to obtain an image-based model from an analysis-based model, which can help us to solve many high frequency problems with difficult sampling, e.g. sonic wave and collision. However, due to the slight difference between simulated images, the low-accuracy of the Convolutional Neural Network (CNN) and poor-diversity of the Generative Adversarial Network (GAN) make the reconstruction process low-accuracy, poor-efficiency, expensive-computation and high-manpower. In this study, an improved ReConNN model is proposed to address the mentioned weaknesses. Through experiments, comparisons and analyses, the improved one is demonstrated to outperform in accuracy, efficiency and cost.
translated by 谷歌翻译
最近提出并研究了甲虫天线搜索算法以解决全局优化问题。尽管该算法及其变体的性能显示出优于某些现有的启发式算法,但仍缺乏收敛性分析。在本文中,我们对beetleantennae搜索算法的收敛性进行了理论分析。我们测试了BAS算法viasome代表性基准函数的性能。同时,还介绍了BAS算法的一些应用。
translated by 谷歌翻译
我们通过允许在用户频率上进行非均匀分布来概括强盗在线聚类的设置。提出了一种更有效的算法,其具有简单的集合结构来表示集群。我们证明了对新算法的遗憾,该算法没有用户的最小频率。合成和真实数据集上的实验一致地显示了新算法优于现有方法的优势。
translated by 谷歌翻译
在本文中,我们提出了三种解决鲁比克立方体颜色识别的方法,包括一种离线方法和两种在线方法。提出了一种离线方法Scatterbalance \和极限学习机(SB-ELM)来说明基于训练的方法的效率。我们还指出了颜色漂移的概念,这表明离线方法总是有效,并且在连续变化环境中不能很好地工作。相比之下,动态重量标签传播被提出用于通过Rubik立方体的已知中心块颜色来标记块颜色。此外,弱标签层次传播,另一种在线方法,也被提出用于未知的全彩色信息,但仅利用中心块的弱标签进行颜色识别。我们最终设计了一个魔方机器人并构建了一个数据集来说明我们在线方法的效率和有效性,并通过我们的数据流中的颜色漂移来指示离线方法的无效性。
translated by 谷歌翻译
在移动/物联网设备上部署深度学习模型是一项具有挑战性的任务。难点在于计算速度和准确性之间的权衡。具有高精度的Acomplex深度学习模型在资源有限的设备上运行缓慢,而运行速度更快的轻量级模型会失去准确性。在本文中,我们提出了一种新的分解方法,即DAC,它能够将普通的卷积层分解成两层,参数更少。 DAC直接根据原始卷积层的权重计算新生成的层的相应权重。因此,不需要训练(或微调)或任何数据。实验结果表明DAC减少了大量的浮点运算(FLOP),同时保持了预训练模型的高精度。如果2%的准确度是可以接受的,DAC可以在ImageNet数据集上保存VGG16图像分类模型的53%FLOP,在PASCAL VOC2007dataset上保存SSD300物体检测模型的29%FLOPS,以及在MicrosoftCOCO数据集上保存多人姿势估计模型的46%FLOPS。与其他现有分解方法相比,DAC实现了更好的性能。
translated by 谷歌翻译
随着网络深度和宽度的增加,深度神经网络(DNN)的性能在近年来不断提升。为了在移动电话等边缘设备上启用DNN,研究人员提出了几种网络压缩方法,包括修剪,量化和分解。在基于因子化的方法中,低秩近似由于其坚实的理论基础和有效的实现而被广泛采用。以前的几个工作试图通过低秩分解直接逼近预训练模型;然而,参数中的小近似误差可以获得大的预测损失。因此,性能通常会显着下降,并且需要进行复杂的微调才能恢复准确性。我们认为将低秩近似与训练分开并不是最佳选择。与以前的作品不同,本文将低秩近似和正则化集成到训练中。我们提出训练等级修剪(TRP),它迭代低等级近似和训练。 TRP保持原始网络的容量,同时在训练期间施加低级别约束。利用随机亚梯度下降优化核正则化进一步促进TRP中的低秩。 TRP训练的网络本质上具有低秩结构,并且可以以可忽略的性能损失来近似,消除了低秩近似之后的微调。这些方法在CIFAR-10和ImageNet上进行了全面评估,优于使用低秩近似的先前压缩方法。
translated by 谷歌翻译
我们提出了一个正式的测量 - 神经网络理论理论(NN)建立概率耦合理论。我们的主要贡献概括如下。 *建立在概率耦合理论的形式基础上,我们推导出分析框架,称为分层测量组和近似系统(HMGAS),绰号为S-System,旨在学习物理世界中复杂的层次,统计依赖。 *当概率核采用某些指数族分布时,我们证明NN是S系统的特例。激活功能正式推出。我们通过信息几何进一步赋予NN几何,表明NN的中间特征空间是随机流形,并证明样本之间的“距离”收缩为层叠。 * S-System显示NN本质上是随机的,并且在一组现实有界性和多样性条件下,它使我们能够证明对于具有一类损失的大尺寸非线性深NN,包括铰链损耗,最小极小是全局最小值,零损失误差,以及最小区域周围的区域是平坦盆地,其中Hessians的所有特征值都集中在零点,使用来自平均场理论,随机矩阵理论和非线性算子方程的工具和思想。 * S-System,信息几何结构和优化行为组合完成了重整化组(RG)和NN之间的模拟。它表明NN是一种复杂的自适应系统,可以在多个尺度上估计微观物体(例如像素)的统计依赖性。与RG在物理学中产生的明确物理量(例如,温度)不同,NN通过学习/优化而出现的流形正整化/重组,将样本空间划分为由监督标签(在受监督的NN中)所支配的高度语义上有意义的群体。
translated by 谷歌翻译