有很好的参数来支持声明，特征表示最终从一般到深度神经网络（DNN）的特定转换，但这种转变仍然相对缺乏缺陷。在这项工作中，我们向理解特征表示的转换来移动一个微小的步骤。我们首先通过分析中间层中的类分离，然后将类别分离过程作为动态图中的社区演变进行了描述。然后，我们介绍模块化，是图形理论中的常见度量，量化社区的演变。我们发现，随着层更深，而是下降或达到特定层的高原，模块化趋于上升。通过渐近分析，我们表明模块化可以提供对特征表示转换的定量分析。通过了解特征表示，我们表明模块化也可用于识别和定位DNN中的冗余层，这为图层修剪提供了理论指导。基于这种鼓舞人心的发现，我们提出了一种基于模块化的层面修剪方法。进一步的实验表明，我们的方法可以修剪冗余层，对性能的影响最小。该代码可在https://github.com/yaolu-zjut/dynamic-graphs-construction中获得。

过滤器修剪方法通过去除选定的过滤器来引入结构稀疏性，因此对于降低复杂性特别有效。先前的作品从验证较小规范的过滤器的角度从经验修剪网络中造成了较小的最终结果贡献。但是，此类标准已被证明对过滤器的分布敏感，并且由于修剪后的容量差距是固定的，因此准确性可能很难恢复。在本文中，我们提出了一种称为渐近软簇修剪（ASCP）的新型过滤器修剪方法，以根据过滤器的相似性来识别网络的冗余。首先通过聚类来区分来自参数过度的网络的每个过滤器，然后重建以手动将冗余引入其中。提出了一些聚类指南，以更好地保留特征提取能力。重建后，允许更新过滤器，以消除错误选择的效果。此外，还采用了各种修剪率的衰减策略来稳定修剪过程并改善最终性能。通过逐渐在每个群集中生成更相同的过滤器，ASCP可以通过通道添加操作将其删除，几乎没有准确性下降。 CIFAR-10和Imagenet数据集的广泛实验表明，与许多最新算法相比，我们的方法可以取得竞争性结果。

了解深度神经网络（DNN）中的黑匣子表示是深度学习的重要问题。在这项工作中，我们提出了基于图形的相似性（GBS）来测量层特征的相似性。与之前的作品相反，在特征映射上直接计算相似度，GBS根据具有隐藏图层输出构造的图形来测量相关性。通过将每个输入样本视为节点和对应的层输出相似度作为边缘，我们构造了每层的DNN表示图。图层之间的相似性识别在不同数据集和初始化中培训的模型的表示之间的对应关系。我们展示并证明了GB的不变性属性，包括与各向同性缩放的正交转换和不变性的不变性，并与CKA进行比较GBS。 GBS显示了最先进的性能，反映了相似性，并提供了关于解释隐藏层空间上的对抗性样本行为的见解。

神经网络修剪具有显着性能，可以降低深网络模型的复杂性。最近的网络修剪方法通常集中在网络中删除不重要或冗余过滤器。在本文中，通过探索特征图之间的相似性，我们提出了一种新颖的滤波器修剪方法，中央滤波器（CF），这表明在适当的调整之后滤波器大致等于一组其他滤波器。我们的方法基于发现特征贴图之间的平均相似性的发现，而不管输入图像的数量如何，都会很少变化。基于此发现，我们在特征映射上建立相似性图，并计算每个节点的近密中心以选择中央滤波器。此外，我们设计一种方法，可以在与中央滤波器对应的下一层中直接调整权重，有效地最小化由修剪引起的误差。通过对各种基准网络和数据集的实验，CF产生最先进的性能。例如，对于Reset-56，CF通过去除47.1％的参数来减少约39.7％的絮凝物，甚至在CiFar-10上的精度改善0.33％。通过Googlenet，CF通过去除55.6％的参数来减少大约63.2％的拖鞋，仅在CIFAR-10上的前1个精度下降0.35％的损失。通过resnet-50，CF通过去除36.9％的参数减少约47.9％的拖鞋，仅在Imagenet上的前1个精度下降1.07％。该代码可以在https://github.com/8ubpshlr23/centrter上获得。

网络修剪是一种有效的方法，可以通过可接受的性能妥协降低网络复杂性。现有研究通过耗时的重量调谐或具有扩展宽度的网络的复杂搜索来实现神经网络的稀疏性，这极大地限制了网络修剪的应用。在本文中，我们表明，在没有权重调谐的情况下，高性能和稀疏的子网被称为“彩票奖线”，存在于具有膨胀宽度的预先训练的模型中。例如，我们获得了一个只有10％参数的彩票奖金，仍然达到了原始密度Vggnet-19的性能，而无需对CiFar-10的预先训练的重量进行任何修改。此外，我们观察到，来自许多现有修剪标准的稀疏面具与我们的彩票累积的搜索掩码具有高重叠，其中，基于幅度的修剪导致与我们的最相似的掩模。根据这种洞察力，我们使用基于幅度的修剪初始化我们的稀疏掩模，导致彩票累积搜索至少3倍降低，同时实现了可比或更好的性能。具体而言，我们的幅度基彩票奖学金在Reset-50中除去90％的重量，而在ImageNet上仅使用10个搜索时期可以轻松获得超过70％的前1个精度。我们的代码可在https://github.com/zyxxmu/lottery-jackpots获得。

轻量级模型设计已成为应用深度学习技术的重要方向，修剪是实现模型参数和拖鞋的大量减少的有效均值。现有的神经网络修剪方法主要从参数的重要性开始，以及设计参数评估度量来迭代地执行参数修剪。这些方法不是从模型拓扑的角度研究的，可能是有效但不高效的，并且需要完全不同的不同数据集修剪。在本文中，我们研究了神经网络的图形结构，并提出了常规的基于图的修剪（RGP）来执行单次神经网络修剪。我们生成常规图，将图的节点度值设置为满足修剪比率，并通过将边缘交换以获得最佳边缘分布来降低曲线图的平均最短路径长度。最后，将获得的图形映射到神经网络结构中以实现修剪。实验表明，曲线图的平均最短路径长度与相应神经网络的分类精度负相关，所提出的RGP显示出强的精度保持能力，具有极高的参数减少（超过90％）和拖鞋（更多超过90％）。

Pruning refers to the elimination of trivial weights from neural networks. The sub-networks within an overparameterized model produced after pruning are often called Lottery tickets. This research aims to generate winning lottery tickets from a set of lottery tickets that can achieve similar accuracy to the original unpruned network. We introduce a novel winning ticket called Cyclic Overlapping Lottery Ticket (COLT) by data splitting and cyclic retraining of the pruned network from scratch. We apply a cyclic pruning algorithm that keeps only the overlapping weights of different pruned models trained on different data segments. Our results demonstrate that COLT can achieve similar accuracies (obtained by the unpruned model) while maintaining high sparsities. We show that the accuracy of COLT is on par with the winning tickets of Lottery Ticket Hypothesis (LTH) and, at times, is better. Moreover, COLTs can be generated using fewer iterations than tickets generated by the popular Iterative Magnitude Pruning (IMP) method. In addition, we also notice COLTs generated on large datasets can be transferred to small ones without compromising performance, demonstrating its generalizing capability. We conduct all our experiments on Cifar-10, Cifar-100 & TinyImageNet datasets and report superior performance than the state-of-the-art methods.

通道修剪被广泛用于降低深网模型的复杂性。最近的修剪方法通常通过提出通道重要性标准来识别网络的哪些部分。但是，最近的研究表明，这些标准在所有情况下都不能很好地工作。在本文中，我们提出了一种新颖的功能最小化方法（FSM）方法来压缩CNN模型，该模型通过收敛功能和过滤器的信息来评估特征转移。具体而言，我们首先使用不同层深度的一些普遍方法研究压缩效率，然后提出特征转移概念。然后，我们引入了一种近似方法来估计特征移位的幅度，因为很难直接计算它。此外，我们提出了一种分布优化算法，以补偿准确性损失并提高网络压缩效率。该方法在各种基准网络和数据集上产生最先进的性能，并通过广泛的实验验证。这些代码可以在\ url {https://github.com/lscgx/fsm}上可用。

本文的目的是理论上分析具有relu层的分段线性DNN中编码的特征转换的复杂性。我们建议指标根据信息理论衡量转换的三种复杂性。我们进一步发现并证明了转换的复杂性和分离之间的密切相关性。根据提议的指标，我们分析了训练过程中转换复杂性变化的两个典型现象，并探索DNN复杂性的上限。所提出的指标也可以用作学习具有最小复杂性的DNN的损失，这也控制DNN的过度拟合水平并影响对抗性的鲁棒性，对抗性转移性和知识一致性。全面的比较研究为了解DNN提供了新的观点。

在本文中，我们研究了在深网（DNS）中修剪的重要性，以及（1）修剪高度参数的DNS之间的Yin＆Yang关系，这些DNS已从随机初始化训练，并且（2）培训“巧妙”的小型DNS，这些DNS已“巧妙”。初始化。在大多数情况下，从业者只能诉诸随机初始化，因此强烈需要对DN修剪建立扎实的理解。当前的文献在很大程度上仍然是经验的，缺乏对修剪如何影响DNS决策边界，如何解释修剪以及如何设计相应的原则修剪技术的理论理解。为了解决这些问题，我们建议在连续分段仿射（CPA）DNS的理论分析中采用最新进展。从这个角度来看，我们将能够检测到早期的鸟类（EB）票务现象，为当前的修剪技术提供可解释性，并制定有原则的修剪策略。在研究的每个步骤中，我们进行了广泛的实验，以支持我们的主张和结果；尽管我们的主要目标是增强对DN修剪的当前理解，而不是开发一种新的修剪方法，但我们的样条修剪标准在层和全球修剪方面与先进的修剪方法相当甚至超过了。

由于存储器和计算资源有限，部署在移动设备上的卷积神经网络（CNNS）是困难的。我们的目标是通过利用特征图中的冗余来设计包括CPU和GPU的异构设备的高效神经网络，这很少在神经结构设计中进行了研究。对于类似CPU的设备，我们提出了一种新颖的CPU高效的Ghost（C-Ghost）模块，以生成从廉价操作的更多特征映射。基于一组内在的特征映射，我们使用廉价的成本应用一系列线性变换，以生成许多幽灵特征图，可以完全揭示内在特征的信息。所提出的C-Ghost模块可以作为即插即用组件，以升级现有的卷积神经网络。 C-Ghost瓶颈旨在堆叠C-Ghost模块，然后可以轻松建立轻量级的C-Ghostnet。我们进一步考虑GPU设备的有效网络。在建筑阶段的情况下，不涉及太多的GPU效率（例如，深度明智的卷积），我们建议利用阶段明智的特征冗余来制定GPU高效的幽灵（G-GHOST）阶段结构。舞台中的特征被分成两个部分，其中使用具有较少输出通道的原始块处理第一部分，用于生成内在特征，另一个通过利用阶段明智的冗余来生成廉价的操作。在基准测试上进行的实验证明了所提出的C-Ghost模块和G-Ghost阶段的有效性。 C-Ghostnet和G-Ghostnet分别可以分别实现CPU和GPU的准确性和延迟的最佳权衡。代码可在https://github.com/huawei-noah/cv-backbones获得。

卷积神经网络（CNN）具有一定量的参数冗余，滤波器修剪旨在去除冗余滤波器，并提供在终端设备上应用CNN的可能性。但是，以前的作品更加注重设计了滤波器重要性的评估标准，然后缩短了具有固定修剪率的重要滤波器或固定数量，以减少卷积神经网络的冗余。它不考虑为每层预留有多少筛选器是最合理的选择。从这个角度来看，我们通过搜索适当的过滤器（SNF）来提出新的过滤器修剪方法。 SNF专用于搜索每层的最合理的保留过滤器，然后是具有特定标准的修剪过滤器。它可以根据不同的拖鞋定制最合适的网络结构。通过我们的方法进行过滤器修剪导致CIFAR-10的最先进（SOTA）精度，并在Imagenet ILSVRC-2012上实现了竞争性能。基于Reset-56网络，在Top-中增加了0.14％的增加0.14％ 1对CIFAR-10拖出的52.94％的精度为52.94％。在减少68.68％拖鞋时，CiFar-10上的修剪Resnet-110还提高了0.03％的1 0.03％的精度。对于Imagenet，我们将修剪速率设置为52.10％的拖鞋，前1个精度只有0.74％。该代码可以在https://github.com/pk-l/snf上获得。

虽然残留连接使训练非常深的神经网络，但由于其多分支拓扑而​​导致在线推断不友好。这鼓励许多研究人员在推动时没有残留连接的情况下设计DNN。例如，repvgg在部署时将多分支拓扑重新参数化为vgg型（单分支）模型，当网络相对较浅时显示出具有很大的性能。但是，RepVGG不能等效地将Reset转换为VGG，因为重新参数化方法只能应用于线性块，并且必须将非线性层（Relu）放在残余连接之外，这导致了有限的表示能力，特别是更深入网络。在本文中，我们的目标是通过在Resblock上的保留和合并（RM）操作等效地纠正此问题，并提出删除Vanilla Reset中的残留连接。具体地，RM操作允许输入特征映射通过块，同时保留其信息，并在每个块的末尾合并所有信息，这可以去除残差而不改变原始输出。作为一个插件方法，RM操作基本上有三个优点：1）其实现使其实现高比率网络修剪。 2）它有助于打破RepVGG的深度限制。 3）与Reset和RepVGG相比，它导致更好的精度速度折衷网络（RMNet）。我们相信RM操作的意识形态可以激发对未来社区的模型设计的许多见解。代码可用：https://github.com/fxmeng/rmnet。

识别各个网络单元的状态对于了解卷积神经网络（CNNS）的机制至关重要。但是，它仍然有挑战性，可以可靠地指示单位状态，特别是对于不同网络模型中的单位。为此，我们提出了一种使用代数拓扑工具定量阐明CNN中单位状态的新方法。单位状态通过计算定义的拓扑熵来指示称为特征熵，该特征熵，测量隐藏在单位的全局空间模式的混沌程度。通过这种方式，特征熵可以提供不同网络中单位的准确指示，具有不同的情况，如权重操作。此外，我们表明特征熵随着层次更深，并且在训练期间几乎同时同时趋于趋势而分享。我们表明，通过调查仅在培训数据上的单位的特征熵，它可以从特征表示的有效性看出具有不同泛化能力的网络之间的歧视。

Neural network pruning offers a promising prospect to facilitate deploying deep neural networks on resourcelimited devices. However, existing methods are still challenged by the training inefficiency and labor cost in pruning designs, due to missing theoretical guidance of non-salient network components. In this paper, we propose a novel filter pruning method by exploring the High Rank of feature maps (HRank). Our HRank is inspired by the discovery that the average rank of multiple feature maps generated by a single filter is always the same, regardless of the number of image batches CNNs receive. Based on HRank, we develop a method that is mathematically formulated to prune filters with low-rank feature maps. The principle behind our pruning is that low-rank feature maps contain less information, and thus pruned results can be easily reproduced. Besides, we experimentally show that weights with high-rank feature maps contain more important information, such that even when a portion is not updated, very little damage would be done to the model performance. Without introducing any additional constraints, HRank leads to significant improvements over the state-of-the-arts in terms of FLOPs and parameters reduction, with similar accuracies. For example, with ResNet-110, we achieve a 58.2%-FLOPs reduction by removing 59.2% of the parameters, with only a small loss of 0.14% in top-1 accuracy on CIFAR-10. With Res-50, we achieve a 43.8%-FLOPs reduction by removing 36.7% of the parameters, with only a loss of 1.17% in the top-1 accuracy on ImageNet. The codes can be available at https://github.com/lmbxmu/HRank.

现有的可区分通道修剪方法通常将缩放因子或掩模在通道后面的掩盖范围内，以减少重要性的修剪过滤器，并假设输入样品统一贡献以过滤重要性。具体而言，实例复杂性对修剪性能的影响尚未得到充分研究。在本文中，我们提出了一个基于实例复杂性滤波器的重要性得分的简单而有效的可区分网络修剪方法上限。我们通过给硬样品给出更高的权重来定义每个样品的实例复杂性与重量相关的重量，并测量样品特异性软膜的加权总和，以模拟不同输入的非均匀贡献，这鼓励硬样品主导修剪过程和模型性能保存完好。此外，我们还引入了一个新的正规器，以鼓励面具两极分化，以便很容易找到甜蜜的位置以识别要修剪的过滤器。各种网络体系结构和数据集的性能评估表明，CAP在修剪大型网络方面具有优势。例如，CAP在删除65.64％的拖鞋后，CAP在CIFAR-10数据集上的RESNET56的准确性提高了0.33％，而Prunes在ImagEnet数据集上的RESNET50的PRUNES 87.75％，只有0.89％的TOP-1精度损失。

最近的研究表明，深度神经网络（DNN）容易受到后门攻击的影响，后门攻击会导致DNN的恶意行为，当时特定的触发器附在输入图像上时。进一步证明，感染的DNN具有一系列通道，与正常通道相比，该通道对后门触发器更敏感。然后，将这些通道修剪可有效缓解后门行为。要定位这些通道，自然要考虑其Lipschitzness，这可以衡量他们对输入上最严重的扰动的敏感性。在这项工作中，我们介绍了一个名为Channel Lipschitz常数（CLC）的新颖概念，该概念定义为从输入图像到每个通道输出的映射的Lipschitz常数。然后，我们提供经验证据，以显示CLC（UCLC）上限与通道激活的触发激活变化之间的强相关性。由于可以从重量矩阵直接计算UCLC，因此我们可以以无数据的方式检测潜在的后门通道，并在感染的DNN上进行简单修剪以修复模型。提出的基于lipschitzness的通道修剪（CLP）方法非常快速，简单，无数据且可靠，可以选择修剪阈值。进行了广泛的实验来评估CLP的效率和有效性，CLP的效率和有效性也可以在主流防御方法中获得最新的结果。源代码可在https://github.com/rkteddy/channel-lipschitzness基于普通范围内获得。

图形神经网络（GNNS）由于图形数据的规模和模型参数的数量呈指数增长，因此限制了它们在实际应用中的效用，因此往往会遭受高计算成本。为此，最近的一些作品着重于用彩票假设（LTH）稀疏GNN，以降低推理成本，同时保持绩效水平。但是，基于LTH的方法具有两个主要缺点：1）它们需要对密集模型进行详尽且迭代的训练，从而产生了极大的训练计算成本，2）它们仅修剪图形结构和模型参数，但忽略了节点功能维度，存在大量冗余。为了克服上述局限性，我们提出了一个综合的图形渐进修剪框架，称为CGP。这是通过在一个训练过程中设计在训练图周期修剪范式上进行动态修剪GNN来实现的。与基于LTH的方法不同，提出的CGP方法不需要重新训练，这大大降低了计算成本。此外，我们设计了一个共同策略，以全面地修剪GNN的所有三个核心元素：图形结构，节点特征和模型参数。同时，旨在完善修剪操作，我们将重生过程引入我们的CGP框架，以重新建立修剪但重要的连接。提出的CGP通过在6个GNN体系结构中使用节点分类任务进行评估，包括浅层模型（GCN和GAT），浅但深度散发模型（SGC和APPNP）以及Deep Models（GCNII和RESGCN），总共有14个真实图形数据集，包括来自挑战性开放图基准的大规模图数据集。实验表明，我们提出的策略在匹配时大大提高了训练和推理效率，甚至超过了现有方法的准确性。

由于其实现的实际加速，过滤器修剪已广泛用于神经网络压缩。迄今为止，大多数现有滤波器修剪工作探索过滤器通过使用通道内信息的重要性。在本文中，从频道间透视开始，我们建议使用信道独立性进行有效的滤波器修剪，该指标测量不同特征映射之间的相关性。较少独立的特征映射被解释为包含较少有用的信息$ / $知识，因此可以修剪其相应的滤波器而不会影响模型容量。我们在过滤器修剪的背景下系统地调查了渠道独立性的量化度量，测量方案和敏感性$ / $可靠性。我们对各种数据集不同模型的评估结果显示了我们方法的卓越性能。值得注意的是，在CIFAR-10数据集上，我们的解决方案可以分别为基线Resnet-56和Resnet-110型号的0.75 \％$ 0.94 \％$ 0.94 \％。模型大小和拖鞋减少了42.8 \％$和$ 47.4 \％$（for Resnet-56）和48.3 \％$ 48.3 \％$ 52.1 \％$（for resnet-110）。在ImageNet DataSet上，我们的方法可以分别达到40.8 \％$ 44.8 \％$ 74.8 \％$ 0.15 \％$ 0.15 \％$ 0.15美元的准确性。该代码可在https://github.com/eclipsess/chip_neurivs2021上获得。

修剪技术可全面使用图像分类压缩卷积神经网络（CNN）。但是，大多数修剪方法需要一个经过良好训练的模型，以提供有用的支持参数，例如C1-核心，批处理值和梯度信息，如果预训练的模型的参数为，这可能会导致过滤器评估的不一致性不太优化。因此，我们提出了一种基于敏感性的方法，可以通过为原始模型增加额外的损害来评估每一层的重要性。由于准确性的性能取决于参数在所有层而不是单个参数中的分布，因此基于灵敏度的方法将对参数的更新具有鲁棒性。也就是说，我们可以获得对不完美训练和完全训练的模型之间每个卷积层的相似重要性评估。对于CIFAR-10上的VGG-16，即使原始模型仅接受50个时期训练，我们也可以对层的重要性进行相同的评估，并在对模型进行充分训练时的结果。然后，我们将通过量化的灵敏度从每一层中删除过滤器。我们基于敏感性的修剪框架在VGG-16，分别具有CIFAR-10，MNIST和CIFAR-100的VGG-16上有效验证。