基于卷积神经网络（CNN）的现代单图像超分辨率（SISR）系统实现了花哨的性能，而需要巨大的计算成本。在视觉识别任务中对特征冗余的问题进行了很好的研究，但很少在SISR中进行讨论。基于这样的观察，SISR模型中的许多功能也彼此相似，我们建议使用Shift操作来生成冗余功能（即幽灵功能）。与在类似GPU的设备上耗时的深度卷积相比，Shift操作可以为CNN带来实用的推理加速度。我们分析了SISR操作对SISR任务的好处，并根据Gumbel-SoftMax技巧使Shift取向可学习。此外，基于预训练的模型探索了聚类过程，以识别用于生成内在特征的内在过滤器。幽灵功能将通过沿特定方向移动这些内在功能来得出。最后，完整的输出功能是通过将固有和幽灵特征串联在一起来构建的。在几个基准模型和数据集上进行的广泛实验表明，嵌入了所提出方法的非压缩和轻质SISR模型都可以实现与基准的可比性能，并大大降低了参数，拖台和GPU推荐延迟。例如，我们将参数降低46％，FLOPS掉落46％，而GPU推断潜伏期则减少了$ \ times2 $ EDSR网络的42％，基本上是无损的。

由于存储器和计算资源有限，部署在移动设备上的卷积神经网络（CNNS）是困难的。我们的目标是通过利用特征图中的冗余来设计包括CPU和GPU的异构设备的高效神经网络，这很少在神经结构设计中进行了研究。对于类似CPU的设备，我们提出了一种新颖的CPU高效的Ghost（C-Ghost）模块，以生成从廉价操作的更多特征映射。基于一组内在的特征映射，我们使用廉价的成本应用一系列线性变换，以生成许多幽灵特征图，可以完全揭示内在特征的信息。所提出的C-Ghost模块可以作为即插即用组件，以升级现有的卷积神经网络。 C-Ghost瓶颈旨在堆叠C-Ghost模块，然后可以轻松建立轻量级的C-Ghostnet。我们进一步考虑GPU设备的有效网络。在建筑阶段的情况下，不涉及太多的GPU效率（例如，深度明智的卷积），我们建议利用阶段明智的特征冗余来制定GPU高效的幽灵（G-GHOST）阶段结构。舞台中的特征被分成两个部分，其中使用具有较少输出通道的原始块处理第一部分，用于生成内在特征，另一个通过利用阶段明智的冗余来生成廉价的操作。在基准测试上进行的实验证明了所提出的C-Ghost模块和G-Ghost阶段的有效性。 C-Ghostnet和G-Ghostnet分别可以分别实现CPU和GPU的准确性和延迟的最佳权衡。代码可在https://github.com/huawei-noah/cv-backbones获得。

Image super-resolution (SR) serves as a fundamental tool for the processing and transmission of multimedia data. Recently, Transformer-based models have achieved competitive performances in image SR. They divide images into fixed-size patches and apply self-attention on these patches to model long-range dependencies among pixels. However, this architecture design is originated for high-level vision tasks, which lacks design guideline from SR knowledge. In this paper, we aim to design a new attention block whose insights are from the interpretation of Local Attribution Map (LAM) for SR networks. Specifically, LAM presents a hierarchical importance map where the most important pixels are located in a fine area of a patch and some less important pixels are spread in a coarse area of the whole image. To access pixels in the coarse area, instead of using a very large patch size, we propose a lightweight Global Pixel Access (GPA) module that applies cross-attention with the most similar patch in an image. In the fine area, we use an Intra-Patch Self-Attention (IPSA) module to model long-range pixel dependencies in a local patch, and then a $3\times3$ convolution is applied to process the finest details. In addition, a Cascaded Patch Division (CPD) strategy is proposed to enhance perceptual quality of recovered images. Extensive experiments suggest that our method outperforms state-of-the-art lightweight SR methods by a large margin. Code is available at https://github.com/passerer/HPINet.

Deploying convolutional neural networks (CNNs) on embedded devices is difficult due to the limited memory and computation resources. The redundancy in feature maps is an important characteristic of those successful CNNs, but has rarely been investigated in neural architecture design. This paper proposes a novel Ghost module to generate more feature maps from cheap operations. Based on a set of intrinsic feature maps, we apply a series of linear transformations with cheap cost to generate many ghost feature maps that could fully reveal information underlying intrinsic features. The proposed Ghost module can be taken as a plug-and-play component to upgrade existing convolutional neural networks. Ghost bottlenecks are designed to stack Ghost modules, and then the lightweight Ghost-Net can be easily established. Experiments conducted on benchmarks demonstrate that the proposed Ghost module is an impressive alternative of convolution layers in baseline models, and our GhostNet can achieve higher recognition performance (e.g. 75.7% top-1 accuracy) than MobileNetV3 with similar computational cost on the ImageNet ILSVRC-2012 classification dataset. Code is available at https: //github.com/huawei-noah/ghostnet.

随着卷积神经网络最近的大规模发展，已经提出了用于边缘设备上实用部署的大量基于CNN的显着图像超分辨率方法。但是，大多数现有方法都集中在一个特定方面：网络或损失设计，这导致难以最大程度地减少模型大小。为了解决这个问题，我们得出结论，设计，架构搜索和损失设计，以获得更有效的SR结构。在本文中，我们提出了一个名为EFDN的边缘增强功能蒸馏网络，以保留在约束资源下的高频信息。详细说明，我们基于现有的重新处理方法构建了一个边缘增强卷积块。同时，我们提出了边缘增强的梯度损失，以校准重新分配的路径训练。实验结果表明，我们的边缘增强策略可以保持边缘并显着提高最终恢复质量。代码可在https://github.com/icandle/efdn上找到。

Recently, Transformer-based image restoration networks have achieved promising improvements over convolutional neural networks due to parameter-independent global interactions. To lower computational cost, existing works generally limit self-attention computation within non-overlapping windows. However, each group of tokens are always from a dense area of the image. This is considered as a dense attention strategy since the interactions of tokens are restrained in dense regions. Obviously, this strategy could result in restricted receptive fields. To address this issue, we propose Attention Retractable Transformer (ART) for image restoration, which presents both dense and sparse attention modules in the network. The sparse attention module allows tokens from sparse areas to interact and thus provides a wider receptive field. Furthermore, the alternating application of dense and sparse attention modules greatly enhances representation ability of Transformer while providing retractable attention on the input image.We conduct extensive experiments on image super-resolution, denoising, and JPEG compression artifact reduction tasks. Experimental results validate that our proposed ART outperforms state-of-the-art methods on various benchmark datasets both quantitatively and visually. We also provide code and models at the website https://github.com/gladzhang/ART.

Single Image Super-Resolution (SISR) tasks have achieved significant performance with deep neural networks. However, the large number of parameters in CNN-based met-hods for SISR tasks require heavy computations. Although several efficient SISR models have been recently proposed, most are handcrafted and thus lack flexibility. In this work, we propose a novel differentiable Neural Architecture Search (NAS) approach on both the cell-level and network-level to search for lightweight SISR models. Specifically, the cell-level search space is designed based on an information distillation mechanism, focusing on the combinations of lightweight operations and aiming to build a more lightweight and accurate SR structure. The network-level search space is designed to consider the feature connections among the cells and aims to find which information flow benefits the cell most to boost the performance. Unlike the existing Reinforcement Learning (RL) or Evolutionary Algorithm (EA) based NAS methods for SISR tasks, our search pipeline is fully differentiable, and the lightweight SISR models can be efficiently searched on both the cell-level and network-level jointly on a single GPU. Experiments show that our methods can achieve state-of-the-art performance on the benchmark datasets in terms of PSNR, SSIM, and model complexity with merely 68G Multi-Adds for $\times 2$ and 18G Multi-Adds for $\times 4$ SR tasks.

尽管具有卷积神经网络（CNN）的图像超分辨率（SR）的突破性进步，但由于SR网络的计算复杂性很高，SR尚未享受无处不在的应用。量化是解决此问题的有前途方法之一。但是，现有的方法无法量化低于8位的位宽度的SR模型，由于固定的位宽度量化量的严重精度损失。在这项工作中，为了实现高平均比重减少，准确性损失较低，我们建议针对SR网络的新颖的内容感知动态量化（CADYQ）方法，该方法将最佳位置分配给本地区域和层，并根据输入的本地内容适应。图片。为此，引入了一个可训练的位选择器模块，以确定每一层和给定的本地图像补丁的适当位宽度和量化水平。该模块受量化灵敏度的控制，该量化通过使用贴片的图像梯度的平均幅度和层的输入特征的标准偏差来估计。拟议的量化管道已在各种SR网络上进行了测试，并对几个标准基准进行了广泛评估。计算复杂性和升高恢复精度的显着降低清楚地表明了SR提出的CADYQ框架的有效性。代码可从https://github.com/cheeun/cadyq获得。

二进制神经网络（BNN）提供了一种有希望的解决方案，可以将参数密集的深度单像超分辨率（SISR）模型部署到具有有限的存储和计算资源的真实设备上。为了实现与完整精确的对应物的可比性能，大多数现有的SISR现有BNN主要集中于补偿通过更好地近似于二进制卷积，将网络中的权重和网络激活产生的信息损失。在这项研究中，我们重新审视了BNN及其全精度对应物之间的差异，并认为BNN的良好概括性能的关键在于保留完整的完整过度信息流以及通过每个二进制卷积层经过的准确梯度流量。受此启发的启发，我们建议在整个网络上引入完整的跳过连接或其在每个二元卷积层上的变体，这可以提高正向表达能力和背部传播梯度的准确性，从而提高概括性能。更重要的是，此类方案适用于任何现有的BNN骨架用于SISR，而无需引入任何其他计算成本。为了证明其功效，我们使用四个基准数据集中使用SISR的四个不同的骨干对其进行评估，并报告明显优于现有BNN甚至一些4位竞争对手。

Informative features play a crucial role in the single image super-resolution task. Channel attention has been demonstrated to be effective for preserving information-rich features in each layer. However, channel attention treats each convolution layer as a separate process that misses the correlation among different layers. To address this problem, we propose a new holistic attention network (HAN), which consists of a layer attention module (LAM) and a channel-spatial attention module (CSAM), to model the holistic interdependencies among layers, channels, and positions. Specifically, the proposed LAM adaptively emphasizes hierarchical features by considering correlations among layers. Meanwhile, CSAM learns the confidence at all the positions of each channel to selectively capture more informative features. Extensive experiments demonstrate that the proposed HAN performs favorably against the state-ofthe-art single image super-resolution approaches.

知识蒸馏（KD）可以有效地将知识从繁琐的网络（教师）转移到紧凑的网络（学生），在某些计算机视觉应用中证明了其优势。知识的表示对于知识转移和学生学习至关重要，这通常以手工制作的方式定义或直接使用中间功能。在本文中，我们建议在教师学生架构下为单像超级分辨率任务提出一种模型 - 不足的元知识蒸馏方法。它提供了一种更灵活，更准确的方法，可以通过知识代表网络（KRNET）的能力来帮助教师通过具有可学习参数的知识传输知识。为了提高知识表示对学生需求的看法能力，我们建议通过采用学生特征以及KRNET中的教师和学生之间的相关性来解决从中间产出到转移知识的转型过程。具体而言，生成纹理感知的动态内核，然后提取要改进的纹理特征，并将相应的教师指导分解为质地监督，以进一步促进高频细节的恢复质量。此外，KRNET以元学习方式进行了优化，以确保知识转移和学生学习有益于提高学生的重建质量。在各种单个图像超分辨率数据集上进行的实验表明，我们所提出的方法优于现有的定义知识表示相关的蒸馏方法，并且可以帮助超分辨率算法实现更好的重建质量，而无需引入任何推理复杂性。

联合超分辨率和反音调映射（联合SR-ITM）旨在增加低分辨率和标准动态范围图像的分辨率和动态范围。重点方法主要是诉诸图像分解技术，使用多支化的网络体系结构。 ，这些方法采用的刚性分解在很大程度上将其力量限制在各种图像上。为了利用其潜在能力，在本文中，我们将分解机制从图像域概括为更广泛的特征域。为此，我们提出了一个轻巧的特征分解聚合网络（FDAN）。特别是，我们设计了一个功能分解块（FDB），可以实现功能细节和对比度的可学习分离。通过级联FDB，我们可以建立一个用于强大的多级特征分解的分层功能分解组。联合SR-ITM，\ ie，SRITM-4K的新基准数据集，该数据集是大规模的，为足够的模型培训和评估提供了多功能方案。两个基准数据集的实验结果表明，我们的FDAN表明我们的FDAN有效，并且胜过了以前的方法sr-itm.ar代码和数据集将公开发布。

Convolutional neural network (CNN) has achieved great success on image super-resolution (SR). However, most deep CNN-based SR models take massive computations to obtain high performance. Downsampling features for multi-resolution fusion is an efficient and effective way to improve the performance of visual recognition. Still, it is counter-intuitive in the SR task, which needs to project a low-resolution input to high-resolution. In this paper, we propose a novel Hybrid Pixel-Unshuffled Network (HPUN) by introducing an efficient and effective downsampling module into the SR task. The network contains pixel-unshuffled downsampling and Self-Residual Depthwise Separable Convolutions. Specifically, we utilize pixel-unshuffle operation to downsample the input features and use grouped convolution to reduce the channels. Besides, we enhance the depthwise convolution's performance by adding the input feature to its output. Experiments on benchmark datasets show that our HPUN achieves and surpasses the state-of-the-art reconstruction performance with fewer parameters and computation costs.

已经证明了深度卷积神经网络近年来对SISR有效。一方面，已经广泛使用了残余连接和密集连接，以便于前向信息和向后梯度流动以提高性能。然而，当前方法以次优的方式在大多数网络层中单独使用残留连接和密集连接。另一方面，虽然各种网络和方法旨在改善计算效率，节省参数或利用彼此的多种比例因子的训练数据来提升性能，但它可以在人力资源空间中进行超级分辨率来具有高计算成本或不能在不同尺度因子的模型之间共享参数以节省参数和推理时间。为了解决这些挑战，我们提出了一种使用双路径连接的高效单图像超分辨率网络，其多种规模学习命名为EMSRDPN。通过将双路径的双路径连接引入EMSRDPN，它在大多数网络层中以综合方式使用残差连接和密集连接。双路径连接具有重用残余连接的共同特征和探索密集连接的新功能，以了解SISR的良好代表。要利用多种比例因子的特征相关性，EMSRDPN在不同缩放因子之间共享LR空间中的所有网络单元，以学习共享功能，并且仅使用单独的重建单元进行每个比例因子，这可以利用多种规模因子的培训数据来帮助各个规模因素另外提高性能，同时可以节省参数并支持共享推理，以提高效率的多种规模因素。实验显示EMSRDPN通过SOTA方法实现更好的性能和比较或更好的参数和推理效率。

深度神经网络通过学习从低分辨率（LR）图像到高分辨率（HR）图像的映射，在图像超分辨率（SR）任务中表现出了显着的性能。但是，SR问题通常是一个不适的问题，现有方法将受到一些局限性。首先，由于可能存在许多不同的HR图像，因此SR的可能映射空间可能非常大，可以将其删除到相同的LR图像中。结果，很难直接从如此大的空间中学习有希望的SR映射。其次，通常不可避免地要开发具有极高计算成本的非常大型模型来产生有希望的SR性能。实际上，可以使用模型压缩技术通过降低模型冗余来获得紧凑的模型。然而，由于非常大的SR映射空间，现有模型压缩方法很难准确识别冗余组件。为了减轻第一个挑战，我们提出了一项双重回归学习计划，以减少可能的SR映射空间。具体而言，除了从LR到HR图像的映射外，我们还学习了一个附加的双回归映射，以估算下采样内核和重建LR图像。通过这种方式，双映射是减少可能映射空间的约束。为了应对第二项挑战，我们提出了一种轻巧的双回归压缩方法，以基于通道修剪来降低图层级别和通道级别的模型冗余。具体而言，我们首先开发了一种通道编号搜索方法，该方法将双重回归损耗最小化以确定每一层的冗余。鉴于搜索的通道编号，我们进一步利用双重回归方式来评估通道的重要性并修剪冗余。广泛的实验显示了我们方法在获得准确有效的SR模型方面的有效性。

随着深度学习的发展，单图像超分辨率（SISR）取得了重大突破。最近，已经提出了基于全局特征交互的SISR网络性能的方法。但是，需要动态地忽略对上下文的响应的神经元的功能。为了解决这个问题，我们提出了一个轻巧的交叉障碍性推理网络（CFIN），这是一个由卷积神经网络（CNN）和变压器组成的混合网络。具体而言，一种新型的交叉磁场导向变压器（CFGT）旨在通过使用调制卷积内核与局部代表性语义信息结合来自适应修改网络权重。此外，提出了基于CNN的跨尺度信息聚合模块（CIAM），以使模型更好地专注于潜在的实用信息并提高变压器阶段的效率。广泛的实验表明，我们提出的CFIN是一种轻巧有效的SISR模型，可以在计算成本和模型性能之间达到良好的平衡。

基于深度学习的超分辨率（SR）近年来由于其高图像质量性能和广泛的应用方案而获得了极大的知名度。但是，先前的方法通常会遭受大量计算和巨大的功耗，这会导致实时推断的困难，尤其是在资源有限的平台（例如移动设备）上。为了减轻这种情况，我们建议使用自适应SR块进行深度搜索和每层宽度搜索，以进行深度搜索和每层宽度搜索。推理速度与SR损失一起直接将其带入具有高图像质量的SR模型，同​​时满足实时推理需求。借用了与编译器优化的速度模型在搜索过程中每次迭代中的移动设备上的速度，以预测具有各种宽度配置的SR块的推理潜伏期，以更快地收敛。通过提出的框架，我们在移动平台的GPU/DSP上实现了实时SR推断，以实现具有竞争性SR性能的720p分辨率（三星Galaxy S21）。

将低分辨率（LR）图像恢复到超分辨率（SR）图像具有正确和清晰的细节是挑战。现有的深度学习工作几乎忽略了图像的固有结构信息，这是对SR结果的视觉感知的重要作用。在本文中，我们将分层特征开发网络设计为探测并以多尺度特征融合方式保持结构信息。首先，我们提出了在传统边缘探测器上的交叉卷积，以定位和代表边缘特征。然后，交叉卷积块（CCBS）设计有功能归一化和渠道注意，以考虑特征的固有相关性。最后，我们利用多尺度特征融合组（MFFG）来嵌入交叉卷积块，并在层次的层次上开发不同尺度的结构特征的关系，调用名为Cross-SRN的轻量级结构保护网络。实验结果表明，交叉SRN通过准确且清晰的结构细节实现了对最先进的方法的竞争或卓越的恢复性能。此外，我们设置了一个标准，以选择具有丰富的结构纹理的图像。所提出的跨SRN优于所选择的基准测试的最先进的方法，这表明我们的网络在保存边缘具有显着的优势。

最近，基于深度学习的超分辨率方法取得了良好的性能，但主要关注通过喂养许多样品来训练单个广义的深网络。但是直观地，每个图像都具有其表示，并且预计将获得自适应模型。对于此问题，我们通过利用图像或特征的全局上下文信息来提出一种新颖的图像特异性卷积核调制（IKM），以产生适当地调制卷积核的注意重量，这越优于Vanilla卷积和几个现有的注意机制在没有任何其他参数的情况下嵌入最先进的架构。特别是，为了优化我们在迷你批量培训中的IKM，我们引入了一种特定于图像的优化（ISO）算法，比传统的迷你批量SGD优化更有效。此外，我们调查IKM对最先进的架构的影响，并利用一个带有U风格的残差学习和沙漏密集的块学习的新骨干，术语U-HOLGLASS密集网络（U-HDN），这是一个理论上和实验，最大限度地提高IKM的效力。单图像超分辨率的广泛实验表明，该方法实现了优异的现有方法性能。代码可在github.com/yuanfeihuang/ikm获得。

许多图像处理网络在整个输入图像上应用一组静态卷积核，这是自然图像的次优，因为它们通常由异质视觉模式组成。最近在分类，分割和图像恢复方面的工作已经证明，动态核优于局部图像统计数据的静态内核。然而，这些工作经常采用每像素卷积核，这引入了高存储器和计算成本。为了在没有显着开销的情况下实现空间变化的处理，我们呈现\ TextBF {Malle} Chable \ TextBF {CONV} olution（\ textbf {malleconv}），作为动态卷积的有效变体。 \我们的权重由能够在特定空间位置产生内容相关的输出的有效预测器网络动态地产生。与以前的作品不同，\我们从输入生成一组更小的空间变化内核，这会扩大网络的接收领域，并显着降低计算和内存成本。然后通过具有最小内存开销的高效切片和-Conver操作员将这些内核应用于全分辨率的特征映射。我们进一步使用MalleConv建立了高效的去噪网络，被创建为\ textbf {mallenet}。它实现了高质量的结果，没有非常深的架构，例如，它是8.91 $ \ times $的速度快于最好的去噪算法（Swinir），同时保持类似的性能。我们还表明，添加到标准的基于卷积的骨干的单个\我们可以贡献显着降低计算成本或以相似的成本提高图像质量。项目页面：https://yifanjiang.net/malleconv.html