Deep learning models operating in the complex domain are used due to their rich representation capacity. However, most of these models are either restricted to the first quadrant of the complex plane or project the complex-valued data into the real domain, causing a loss of information. This paper proposes that operating entirely in the complex domain increases the overall performance of complex-valued models. A novel, fully complex-valued learning scheme is proposed to train a Fully Complex-valued Convolutional Neural Network (FC-CNN) using a newly proposed complex-valued loss function and training strategy. Benchmarked on CIFAR-10, SVHN, and CIFAR-100, FC-CNN has a 4-10% gain compared to its real-valued counterpart, maintaining the model complexity. With fewer parameters, it achieves comparable performance to state-of-the-art complex-valued models on CIFAR-10 and SVHN. For the CIFAR-100 dataset, it achieves state-of-the-art performance with 25% fewer parameters. FC-CNN shows better training efficiency and much faster convergence than all the other models.

Building segmentation in high-resolution InSAR images is a challenging task that can be useful for large-scale surveillance. Although complex-valued deep learning networks perform better than their real-valued counterparts for complex-valued SAR data, phase information is not retained throughout the network, which causes a loss of information. This paper proposes a Fully Complex-valued, Fully Convolutional Multi-feature Fusion Network(FC2MFN) for building semantic segmentation on InSAR images using a novel, fully complex-valued learning scheme. The network learns multi-scale features, performs multi-feature fusion, and has a complex-valued output. For the particularity of complex-valued InSAR data, a new complex-valued pooling layer is proposed that compares complex numbers considering their magnitude and phase. This helps the network retain the phase information even through the pooling layer. Experimental results on the simulated InSAR dataset show that FC2MFN achieves better results compared to other state-of-the-art methods in terms of segmentation performance and model complexity.

我们研究复杂的缩放作为一种自然的对称性和复杂的测量和表示独特的对称性。深度复杂网络（DCN）将实值的代数扩展到复杂域，而不会解决复杂值缩放。超现实占据复杂数字的限制性歧管视图，采用距离度量来实现复杂的缩放不变性，同时丢失丰富的复合值。我们分析了复杂的缩放，作为共同领域的转换和设计新颖的具有这种特殊转换的不变神经网络层。我们还提出了RGB图像的新型复合值表示，其中复值缩放表示色调偏移或跨色通道的相关变化。在MSTAR，CIFAR10，CIFAR100和SVHN上基准测试，我们的共同域对称（CDS）分类器提供更高的准确性，更好的泛化，对共同域变换的鲁棒性，以及比DCN和超现实的更低模型偏差和方差，具有较少的参数。

在混合神经网络中，昂贵的卷积层被不可训练的固定变换所取代，参数大幅减少。在以前的作品中，通过用小波代替卷积来获得良好的结果。然而，基于小波的混合网络继承了小波沿曲线及其轴偏置的消失力矩。我们建议使用剪力岩对重要图像功能（例如边缘，脊和斑点）的强大支持。最终的网络称为复杂的剪切网络（COSHNET）。它在针对Resnet-50和Resnet-18的时装摄影师上进行了测试，分别获得了92.2％和90.7％和91.8％的测试。所提出的网络具有49.9k参数，而RESNET-18的参数为11.18m，使用较少的拖鞋52倍。最后，我们在Resnet要求的200个时期与200个时期进行了培训，不需要任何高参数调整或正则化。代码：https：//github.com/ujjawal-k-panchal/coshnet

事实证明，超复杂的神经网络可以减少参数的总数，同时通过利用Clifford代数的特性来确保有价值的性能。最近，通过涉及有效的参数化kronecker产品，超复合线性层得到了进一步改善。在本文中，我们定义了超复杂卷积层的参数化，并介绍了轻巧有效的大型大型模型的参数化超复杂神经网络（PHNN）。我们的方法直接从数据中掌握了卷积规则和过滤器组织，而无需遵循严格的预定义域结构。 Phnns可以灵活地在任何用户定义或调谐域中操作，无论代数规则是否是预设的，从1D到$ n $ d。这样的锻造性允许在其自然域中处理多维输入，而无需吞并进一步的尺寸，而是在Quaternion神经网络中使用3D输入（例如颜色图像）。结果，拟议中的Phnn家族以$ 1/n $的参数运行，因为其在真实域中的类似物。我们通过在各种图像数据集上执行实验以及音频数据集证明了这种方法对应用程序多个域的多功能性，在这些实验中，我们的方法的表现优于真实和Quaternion值值。完整代码可在以下网址获得：https：//github.com/elegan23/hypernets。

在这项工作中，我们设计了一个完全复杂的神经网络，用于虹膜识别的任务。与一般物体识别的问题不同，在实际值的神经网络可以用于提取相关特征的情况下，虹膜识别取决于从输入的虹膜纹理提取两个相位和幅度信息，以便更好地表示其生物识别内容。这需要提取和处理不能由实值神经网络有效处理的相位信息。在这方面，我们设计了一个完全复杂的神经网络，可以更好地捕获虹膜纹理的多尺度，多分辨率和多向阶段和多向阶段和幅度特征。我们展示了具有用于生成经典iRIscode的Gabor小波的提出的复合值虹膜识别网络的强烈对应关系;然而，所提出的方法使得能够为IRIS识别量身定​​制的自动复数特征学习的新能力。我们对三个基准数据集进行实验 - Nd-Crosssensor-2013，Casia-Iris-千和Ubiris.v2 - 并显示了拟议网络的虹膜识别任务的好处。我们利用可视化方案来传达复合网络的方式，与标准的实际网络相比，从虹膜纹理提取根本不同的特征。

随着深度和卷积神经网络的发展，近年来，神经网络领域已经出现了重大进展。虽然目前的许多作品地址地址的实际型号，但最近的研究表明，具有超清印的参数的神经网络可以更好地捕获，概括并表示多维数据的复杂性。本文探讨了急性淋巴细胞白血病诊断急性淋巴细胞白血病的季屈节型卷积神经网络应用。精确地，我们比较了实值和四元值值卷积神经网络的性能，从外周血涂片微观图像分类淋巴细胞。四元值卷积的卷积神经网络比其相应的实值网络实现更好或类似的性能，但仅使用其参数的34％。该结果证实，四元数代数允许从具有较少参数的彩色图像捕获和提取信息。

We introduce DropConnect, a generalization of Dropout (Hinton et al., 2012), for regularizing large fully-connected layers within neural networks. When training with Dropout, a randomly selected subset of activations are set to zero within each layer. DropConnect instead sets a randomly selected subset of weights within the network to zero. Each unit thus receives input from a random subset of units in the previous layer. We derive a bound on the generalization performance of both Dropout and DropConnect. We then evaluate DropConnect on a range of datasets, comparing to Dropout, and show state-of-the-art results on several image recognition benchmarks by aggregating multiple DropConnect-trained models.

Most modern convolutional neural networks (CNNs) used for object recognition are built using the same principles: Alternating convolution and max-pooling layers followed by a small number of fully connected layers. We re-evaluate the state of the art for object recognition from small images with convolutional networks, questioning the necessity of different components in the pipeline. We find that max-pooling can simply be replaced by a convolutional layer with increased stride without loss in accuracy on several image recognition benchmarks. Following this finding -and building on other recent work for finding simple network structures -we propose a new architecture that consists solely of convolutional layers and yields competitive or state of the art performance on several object recognition datasets (CIFAR-10, CIFAR-100, ImageNet). To analyze the network we introduce a new variant of the "deconvolution approach" for visualizing features learned by CNNs, which can be applied to a broader range of network structures than existing approaches.

We propose two efficient approximations to standard convolutional neural networks: Binary-Weight-Networks and XNOR-Networks. In Binary-Weight-Networks, the filters are approximated with binary values resulting in 32× memory saving. In XNOR-Networks, both the filters and the input to convolutional layers are binary. XNOR-Networks approximate convolutions using primarily binary operations. This results in 58× faster convolutional operations (in terms of number of the high precision operations) and 32× memory savings. XNOR-Nets offer the possibility of running state-of-the-art networks on CPUs (rather than GPUs) in real-time. Our binary networks are simple, accurate, efficient, and work on challenging visual tasks. We evaluate our approach on the ImageNet classification task. The classification accuracy with a Binary-Weight-Network version of AlexNet is the same as the full-precision AlexNet. We compare our method with recent network binarization methods, BinaryConnect and BinaryNets, and outperform these methods by large margins on ImageNet, more than 16% in top-1 accuracy. Our code is available at: http://allenai.org/plato/xnornet.

We propose a novel deep network structure called "Network In Network"(NIN) to enhance model discriminability for local patches within the receptive field. The conventional convolutional layer uses linear filters followed by a nonlinear activation function to scan the input. Instead, we build micro neural networks with more complex structures to abstract the data within the receptive field. We instantiate the micro neural network with a multilayer perceptron, which is a potent function approximator. The feature maps are obtained by sliding the micro networks over the input in a similar manner as CNN; they are then fed into the next layer. Deep NIN can be implemented by stacking mutiple of the above described structure. With enhanced local modeling via the micro network, we are able to utilize global average pooling over feature maps in the classification layer, which is easier to interpret and less prone to overfitting than traditional fully connected layers. We demonstrated the state-of-the-art classification performances with NIN on CIFAR-10 and CIFAR-100, and reasonable performances on SVHN and MNIST datasets.

复合值的神经网络（CVNNS）已广泛应用于各种领域，尤其是信号处理和图像识别。然而，很少有作品关注CVNN的泛化，尽管它至关重要，以确保CVNNS在看不见的数据上的性能至关重要。本文是第一项工作，证明了复杂的神经网络的泛化。束缚尺度具有光谱复杂性，其主导因子是重量矩阵的光谱范数产物。此外，我们的工作为训练数据顺序时为CVNN提供了泛化，这也受光谱复杂度的影响。从理论上讲，这些界限通过Maey Sparsification Lemma和Dudley熵整体来源。经验上，我们通过在不同的数据集上培训复杂的卷积神经网络进行实验：Mnist，FashionMnist，CiFar-10，CiFar-100，微小想象成和IMDB。 Spearman的秩序相关系数和这些数据集上的相应P值给出了由权重矩阵光谱规范产品测量的网络的光谱复杂度，与概括能力有统计学显着的相关性。

受生物神经元的启发，激活功能在许多现实世界中常用的任何人工神经网络的学习过程中起着重要作用。文献中已经提出了各种激活功能，用于分类和回归任务。在这项工作中，我们调查了过去已经使用的激活功能以及当前的最新功能。特别是，我们介绍了多年来激活功能的各种发展以及这些激活功能的优势以及缺点或局限性。我们还讨论了经典（固定）激活功能，包括整流器单元和自适应激活功能。除了基于表征的激活函数的分类法外，还提出了基于应用的激活函数的分类法。为此，对MNIST，CIFAR-10和CIFAR-100等分类数据集进行了各种固定和自适应激活函数的系统比较。近年来，已经出现了一个具有物理信息的机器学习框架，以解决与科学计算有关的问题。为此，我们还讨论了在物理知识的机器学习框架中使用的激活功能的各种要求。此外，使用Tensorflow，Pytorch和Jax等各种机器学习库之间进行了不同的固定和自适应激活函数进行各种比较。

尽管在许多应用中取得了巨大的成功，但深度神经网络在实践中并不总是强大的。例如，用于分类任务的卷积神经元网络（CNN）模型通常在对某些特定类别的对象分类时表现不佳。在这项工作中，我们关注的是修补CNN模型的弱部分，而不是通过整个模型的昂贵重新培训来改进它。受到软件工程中模块化和组成的基本概念的启发，我们提出了一种压缩模块化方法CNNSplitter，该方法将$ N $ class分类的强CNN模型分解为$ n $ n $ n $ n $ smill CNN模块。每个模块都是一个子模型，其中包含强模型的卷积内核的一部分。为了修补对目标类（TC）进行不满意的弱CNN模型，我们将弱的CNN模型与从强CNN模型获得的相应模块组成。因此，弱CNN模型识别TC的能力可以通过修补来提高。此外，识别非TCS的能力也得到了提高，因为将样品错误分类为TC可以正确分类为非TCS。在三个广泛使用的数据集上使用两个代表性CNN的实验结果表明，在精度和召回方面，TC的平均改进分别为12.54％和2.14％。此外，修补程序将非TCS的准确性提高了1.18％。结果表明，CNNSplitter可以通过模块化和组成来修补弱的CNN模型，从而为开发可靠的CNN模型提供了新的解决方案。

神经网络是人工智能的巅峰之作，因为近年来我们目睹了许多新颖的体系结构，学习和优化技术的深度学习。利用这一事实是，神经网络固有地构成神经元之间的多部分图，我们旨在直接分析其结构，以提取有意义的信息，以改善学习过程。对于我们的知识图挖掘技术，尚未对神经网络中的学习进行增强。在本文中，我们为从深度学习体系结构中提取的完整加权多部分图的K核结构提出了一个改编版本。由于多方图是两分图的组合，而两分图的组合是超图的起点图，因此我们设计了k-hypercore分解，这是k核退化性的超图类似物。我们将K-Hypercore应用于几个神经网络体系结构，更具体地用于卷积神经网络和多层感知，以进行非常短的训练后的图像识别任务。然后，我们使用了由神经元的超核数量提供的信息来重新定位神经网络的权重，从而偏向梯度优化方案。广泛的实验证明，K-Hypercore的表现优于最新初始化方法。

在本文中，我们通过整合具有离散的傅立叶变换（DFT）的复杂值和实值卷积神经网络（CNN）来提出一个新的EEG信号分类框架。所提出的神经网络架构由一个复杂值的卷积层，两个实值卷积层和三个完全连接的层组成。我们的方法可以有效利用DFT中包含的相信息。我们使用两个模拟的EEG信号和一个基准数据集验证我们的方法，并将其与两个广泛使用的框架进行比较。与对基准数据集进行分类的现有方法相比，我们的方法大大减少了所使用的参数的数量并提高了准确性，并显着提高了对模拟的EEG信号进行分类的性能。

使用卷积神经网络（CNN）已经显着改善了几种图像处理任务，例如图像分类和对象检测。与Reset和Abseralnet一样，许多架构在创建时至少在一个数据集中实现了出色的结果。培训的一个关键因素涉及网络的正规化，这可以防止结构过度装备。这项工作分析了在过去几年中开发的几种正规化方法，显示了不同CNN模型的显着改进。该作品分为三个主要区域：第一个称为“数据增强”，其中所有技术都侧重于执行输入数据的更改。第二个，命名为“内部更改”，旨在描述修改神经网络或内核生成的特征映射的过程。最后一个称为“标签”，涉及转换给定输入的标签。这项工作提出了与关于正则化的其他可用调查相比的两个主要差异：（i）第一个涉及在稿件中收集的论文并非超过五年，并第二个区别是关于可重复性，即所有作品此处推荐在公共存储库中可用的代码，或者它们已直接在某些框架中实现，例如Tensorflow或Torch。

径向基函数神经网络（RBF）是用于模式分类和回归的主要候选者，并且已在经典的机器学习应用中广泛使用。但是，由于缺乏现代体系结构的适应性，RBF尚未使用常规卷积神经网络（CNN）纳入当代深度学习研究和计算机视觉。在本文中，我们通过修改训练过程并引入新的激活功能来训练现代视觉体系结构端到端以端对端进行图像分类，从而将RBF网络作为分类器将作为分类器。 RBF的特定架构使学习相似性距离度量可以比较和查找相似和不同的图像。此外，我们证明，在任何CNN体系结构上使用RBF分类器都提供了有关模型决策过程的新的人性化洞察力。最后，我们成功地将RBF应用于一系列CNN体系结构，并在基准计算机视觉数据集上评估结果。

我们介绍Softmax梯度篡改，一种用于修改神经网络后向通过的梯度的技术，以提高其准确性。我们的方法使用基于功率的概率变换来改变预测的概率值，然后将梯度重新计算在后向通过。这种修改导致更平滑的渐变简介，我们在经验和理论上展示。我们对剩余网络进行了转换参数进行了网格搜索。我们证明修改CUMMNET中的软MAX梯度可能导致培训准确性提高，从而增加训练数据的适合，并最大限度地利用神经网络的学习能力。当与标签平滑等正则化技术相结合时，我们获得更好的测试度量和更低的泛化间隙。 Softmax渐变篡改在ImageNet DataSet上的基线上以0.52 \％$ 0.52 \％$ 0.52 \％$ 0.52 \％。我们的方法非常通用，可以跨各种不同的网络架构和数据集使用。

我们发现从波动光学洞察复杂和实值神经网络的异质性，声称比其幅度对应的权重矩阵的阶段更加重要的作用。在复值神经网络，我们表明，不同类型的修剪中，只有相位信息保存达到最佳精度，它拥有强劲下各种深度和宽度的权重矩阵。结论可以推广到实值神经网络，其中的标志取相的地方。这些鼓舞人心的发现丰富了网络修剪和二进制计算的技术。