艺术文本识别是一项极具挑战性的任务，具有广泛的应用程序。但是，当前场景文本识别方法主要集中于不规则文本，而未专门探讨艺术文本。艺术文本识别的挑战包括具有特殊设计的字体和效果的各种外观，字符之间的复杂连接和重叠以及背景模式的严重干扰。为了减轻这些问题，我们建议在三个层面上识别艺术文本。首先，考虑到角结构对外观和形状的稳健性，使用角点指导角色内部特征的提取。通过这种方式，角点的离散性切断了字符之间的连接，它们的稀疏性改善了背景干扰的稳健性。其次，我们设计了一个字符对比损失，以模拟字符级别的特征，从而改善了字符分类的特征表示。第三，我们利用变形金刚在图像级别上学习全局功能，并在角落跨注意机制的帮助下对角点的全球关系进行建模。此外，我们提供了一个艺术文本数据集来基准表演。实验结果验证了我们提出的方法在艺术文本识别方面的显着优势，并在几个模糊和透视数据集上实现了最先进的性能。

基于关注的编码器 - 解码器框架在现场文本识别中变得流行，主要是由于其在从视觉和语义域集成识别线索方面的优越性。然而，最近的研究表明，这两个线索可能在困难的文本中错位（例如，具有稀有文本形状）并引入诸如角色位置的约束来缓解问题。尽管有一定的成功，但无内容的位置嵌入稳定地与有意义的本地图像区域嵌入。在本文中，我们提出了一种名为多域字符距离感知（MDCDP）的新型模块，以建立视觉和语义相关位置编码。 MDCDP使用位置嵌入在注意机制后查询视觉和语义功能。它自然地编码了位置线索，其描述了字符之间的视觉和语义距离。我们开发一个名为CDISTNET的新型架构，堆叠MDCDP几次以指导精确的距离建模。因此，即使呈现的各种困难，视觉语义对准也很好地建造。我们将CDISTNET应用于两个增强的数据集和六个公共基准。实验表明，CDISTNET实现了最先进的识别准确性。虽然可视化也表明CDISTNET在视觉和语义域中实现了适当的注意本地化。我们将在验收时发布我们的代码。

Scene text spotting is of great importance to the computer vision community due to its wide variety of applications. Recent methods attempt to introduce linguistic knowledge for challenging recognition rather than pure visual classification. However, how to effectively model the linguistic rules in end-to-end deep networks remains a research challenge. In this paper, we argue that the limited capacity of language models comes from 1) implicit language modeling; 2) unidirectional feature representation; and 3) language model with noise input. Correspondingly, we propose an autonomous, bidirectional and iterative ABINet++ for scene text spotting. Firstly, the autonomous suggests enforcing explicitly language modeling by decoupling the recognizer into vision model and language model and blocking gradient flow between both models. Secondly, a novel bidirectional cloze network (BCN) as the language model is proposed based on bidirectional feature representation. Thirdly, we propose an execution manner of iterative correction for the language model which can effectively alleviate the impact of noise input. Finally, to polish ABINet++ in long text recognition, we propose to aggregate horizontal features by embedding Transformer units inside a U-Net, and design a position and content attention module which integrates character order and content to attend to character features precisely. ABINet++ achieves state-of-the-art performance on both scene text recognition and scene text spotting benchmarks, which consistently demonstrates the superiority of our method in various environments especially on low-quality images. Besides, extensive experiments including in English and Chinese also prove that, a text spotter that incorporates our language modeling method can significantly improve its performance both in accuracy and speed compared with commonly used attention-based recognizers.

Leveraging the advances of natural language processing, most recent scene text recognizers adopt an encoder-decoder architecture where text images are first converted to representative features and then a sequence of characters via `sequential decoding'. However, scene text images suffer from rich noises of different sources such as complex background and geometric distortions which often confuse the decoder and lead to incorrect alignment of visual features at noisy decoding time steps. This paper presents I2C2W, a novel scene text recognition technique that is tolerant to geometric and photometric degradation by decomposing scene text recognition into two inter-connected tasks. The first task focuses on image-to-character (I2C) mapping which detects a set of character candidates from images based on different alignments of visual features in an non-sequential way. The second task tackles character-to-word (C2W) mapping which recognizes scene text by decoding words from the detected character candidates. The direct learning from character semantics (instead of noisy image features) corrects falsely detected character candidates effectively which improves the final text recognition accuracy greatly. Extensive experiments over nine public datasets show that the proposed I2C2W outperforms the state-of-the-art by large margins for challenging scene text datasets with various curvature and perspective distortions. It also achieves very competitive recognition performance over multiple normal scene text datasets.

基于关注的编码器解码器框架广泛用于场景文本识别任务。然而，对于当前的最先进的（SOTA）方法，就输入文本图像的本地视觉和全局上下文信息的有效使用而言，存在改进的余地，以及场景之间的鲁棒相关性处理模块（编码器）和文本处理模块（解码器）。在本文中，我们提出了一种表示和相关性增强的编码器解码器框架（Rceed）来解决这些缺陷和断裂性能瓶颈。在编码器模块中，将本地视觉功能，全局上下文特征和位置信息进行对齐并融合以生成小型综合特征图。在解码器模块中，使用两种方法来增强场景和文本特征空间之间的相关性。 1）解码器初始化由从编码器导出的整体特征和全局瞥觉矢量引导。 2）通过多头一般注意力产生的富集瞥见载体的特征来帮助RNN迭代和每个时间步骤的字符预测。同时，我们还设计了一个LABRAMORM-DROPOUT LSTM单元，以改善模型的可变文本的概括。基准的广泛实验展示了在现场文本识别任务中的有利性能，尤其是不规则的性能。

在现场文本识别中已经证明了语义信息。大多数现有方法倾向于将视觉和语义信息耦合到基于关注的解码器中。结果，语义特征的学习易于在训练集的有限词汇上具有偏差，这被称为词汇关系。在本文中，我们提出了一种新颖的视觉语义解耦网络（VSDN）来解决问题。我们的VSDN包含一个可视解码器（VD）和语义解码器（SD），以分别学习更纯度的视觉和语义特征表示。此外，语义编码器（SE）设计用于匹配SD，可以通过简单的单词校正任务通过额外的廉价大型词汇进行预先培训。因此，语义特征更加不偏并且精确地引导视觉特征对准并丰富最终字符表示。实验表明，我们的方法在标准基准上实现了最先进的或竞争力的结果，并且在培训集具有小尺寸的词汇量的情况下，在较大的余量下优于流行的基线。

建模语义信息对于场景文本识别有用。在这项工作中，我们建议与视觉语义变压器（VST）共同模拟语义和视觉信息。 VST首先从具有变压器模块和主视觉语义对齐模块中的视觉特征映射明确地提取主语义信息。然后将语义信息与视觉特征映射（被视为序列）连接以形成伪多域序列，该伪多域序列组合视觉和语义信息，随后将其馈入基于变压器的交互模块，以便能够在视觉和视觉之间学习相互作用语义特征。以这种方式，可以通过语义信息和反之亦然可以增强视觉特征。可视特征的增强版本通过辅助视觉 - 语义对准模块进一步解码，其与主要一个共享权重。最后，通过获得最终文本预测的第三变压器模块共同处理解码的视觉特征和增强的语义特征。在包括常规/不规则文本识别数据集的七个公共基准测试中的实验验证了我们所提出的模型，在七个基准中的四个基准中达到最先进的效果。

现有的文本识别方法通常需要大规模培训数据。由于缺乏带注释的真实图像，他们中的大多数依靠合成训练数据。但是，合成数据和真实数据之间存在域差距，这限制了文本识别模型的性能。最近的自我监督文本识别方法试图通过引入对比度学习来利用未标记的真实图像，这主要学习文本图像的歧视。受到人类学会通过阅读和写作识别文本的观察的启发，我们建议通过在我们的自我监督方法中整合对比度学习和掩盖图像建模来学习歧视和产生。采用对比学习分支来学习对文本图像的歧视，这模仿了人类的阅读行为。同时，首先引入了蒙版的图像建模，以了解文本识别，以了解文本图像的上下文生成，这类似于写作行为。实验结果表明，在不规则场景文本识别数据集上，我们的方法比以前的自我监督文本识别方法优于先前的自我监督文本识别方法。此外，我们提出的文本识别器超过了先前的最新文本识别方法，在11个基准测试中，平均5.3％，模型大小相似。我们还证明，我们的预培训模型可以轻松地应用于具有明显性能增益的其他文本相关任务。

注意机制已成为场景文本识别方法（STR）方法中的事实上的模块，因为它有能力提取字符级表示。可以将这些方法汇总到基于隐性注意力的基于隐性的注意力和受监督的注意力中，取决于如何计算注意力，即分别从序列级别的文本注释和字符级别的边界框注释中学到隐性注意和监督注意力。隐含的注意力可能会提取出粗略甚至不正确的空间区域作为性格的注意，这很容易受到对齐拖延问题的困扰。受到监督的注意力可以减轻上述问题，但它是特定于类别的问题，它需要额外费力的角色级边界框注释，并且当角色类别的数量较大时，将是记忆密集的。为了解决上述问题，我们提出了一种新型的关注机制，用于STR，自我保护的隐式字形注意力（SIGA）。 Siga通过共同自我监督的文本分割和隐性注意对准来描述文本图像的字形结构，这些文本分割和隐性注意对准可以作为监督，以提高注意力正确性，而无需额外的角色级注释。实验结果表明，就注意力正确性和最终识别性能而言，SIGA的性能始终如一地比以前的基于注意力的STR方法更好，并且在公开可用的上下文基准上以及我们的无上下文基准。

近年来，深入学习的蓬勃发展的开花目睹了文本认可的快速发展。但是，现有的文本识别方法主要用于英语文本，而忽略中文文本的关键作用。作为另一种广泛的语言，中文文本识别各种方式​​都有广泛的应用市场。根据我们的观察，我们将稀缺关注缺乏对缺乏合理的数据集建设标准，统一评估方法和现有基线的结果。为了填补这一差距，我们手动收集来自公开的竞争，项目和论文的中文文本数据集，然后将它们分为四类，包括场景，网络，文档和手写数据集。此外，我们在这些数据集中评估了一系列代表性的文本识别方法，具有统一的评估方法来提供实验结果。通过分析实验结果，我们令人惊讶地观察到识别英语文本的最先进的基线不能很好地表现出对中国情景的良好。由于中国文本的特征，我们认为仍然存在众多挑战，这与英文文本完全不同。代码和数据集在https://github.com/fudanvi/benchmarking-chinese-text-recognition中公开使用。

大多数现有的RGB-D突出物体检测方法利用卷积操作并构建复杂的交织融合结构来实现跨模型信息集成。卷积操作的固有局部连接将基于卷积的方法的性能进行了限制到天花板的性能。在这项工作中，我们从全球信息对齐和转换的角度重新思考此任务。具体地，所提出的方法（Transcmd）级联几个跨模型集成单元来构造基于自上而下的变换器的信息传播路径（TIPP）。 Transcmd将多尺度和多模态特征集成作为序列到序列上下文传播和内置于变压器上的更新过程。此外，考虑到二次复杂性W.R.T.输入令牌的数量，我们设计了具有可接受的计算成本的修补程序令牌重新嵌入策略（Ptre）。七个RGB-D SOD基准数据集上的实验结果表明，在配备TIPP时，简单的两流编码器 - 解码器框架可以超越最先进的基于CNN的方法。

最近，场景文本检测是一个具有挑战性的任务。具有任意形状或大宽高比的文本通常很难检测。以前的基于分段的方法可以更准确地描述曲线文本，但遭受过分分割和文本粘附。在本文中，我们提出了基于关注的特征分解 - 改变 - 用于场景文本检测，它利用上下文信息和低级功能来增强基于分段的文本检测器的性能。在特征融合的阶段，我们引入交叉级注意模块来通过添加融合多缩放功能的注意机制来丰富文本的上下文信息。在概率图生成的阶段，提出了一种特征分解 - 重建模块来缓解大宽高比文本的过分分割问题，其根据其频率特性分解文本特征，然后通过添加低级特征来重建它。实验已经在两个公共基准数据集中进行，结果表明，我们的提出方法实现了最先进的性能。

最近，视觉预训练（VLP）技术通过共同学习视觉和文本表示，从而极大地使各种视力语言任务受益匪浅，这是由于场景中文本中丰富的视觉和文本信息而直觉上有助于光学角色识别（OCR）任务图片。但是，这些方法无法很好地应对OCR任务，因为实例级文本编码和图像文本对采集的难度（即其中的图像和捕获的文本）。本文提出了一种弱监督的预训练方法OCLIP，可以通过共同学习和对齐视觉和文本信息来获取有效的场景文本表示。我们的网络由一个图像编码器和角色吸引的文本编码器组成，该文本编码器分别提取视觉和文本特征，以及一个视觉文本解码器，该解码器模拟了文本和视觉特征之间的相互作用，以学习有效的场景文本表示。通过学习文本功能，预先训练的模型可以通过角色意识很好地参加图像中的文本。此外，这些设计可以从弱注释的文本（即图像中的部分文本中没有文本边界框中的部分文本）进行学习，从而极大地减轻数据注释约束。 ICDAR2019-LSVT中弱注释图像的实验表明，我们的预训练模型分别将其权重转移到其他文本检测和发现网络时，将F-评分提高+2.5 \％和+4.8 \％。此外，所提出的方法在多个公共数据集（例如，总文本和CTW1500的+3.2 \％和+1.3 \％）上始终超过现有的预训练技术。

场景文本识别（str）是图像和文本之间的重要桥梁，吸引了丰富的研究关注。虽然卷积神经网络（CNNS）在此任务中取得了显着的进展，但大多数现有工作都需要额外的模块（上下文建模模块）来帮助CNN捕获全局依赖项来解决归纳偏差并加强文本特征之间的关系。最近，该变压器已被提出作为通过自我关注机制的全球背景建模的有希望的网络，但在应用于识别时主要缺点是效率。我们提出了一个1-D拆分来解决复杂性的挑战，并用变压器编码器替换CNN，以减少对上下文建模模块的需求。此外，最近的方法使用冻结的初始嵌入来指导解码器对文本进行解码，导致精度损失。我们建议使用从变压器编码器中学到的学习学习的可读初始嵌入，使其自适应不同的输入图像。最重要的是，我们介绍了一个新颖的文本识别架构，名为基于变压器的文本识别器，其中包含三个阶段（转换，特征提取和预测）组成的初始嵌入指导（TRIG）。广泛的实验表明，我们的方法可以在文本识别基准上实现最先进的。

由于复杂的背景和文本实例的不同变化，场景文本识别是一项具有挑战性的任务。在本文中，我们提出了一个新颖的语义gan和平衡的注意网络（SGBANET），以识别场景图像中的文本。提出的方法首先使用语义gan生成简单的语义功能，然后使用平衡的注意模块识别场景文本。语义GAN旨在使支持域和目标域之间的语义特征分布对齐。与在图像级别执行的传统图像到图像翻译方法不同，语义GAN通过语义生成器模块（SGM）和语义歧视器模块（SDM）在语义级别执行生成和歧视。对于目标图像（场景文本图像），语义生成器模块生成简单的语义特征，这些功能与支持图像（清晰的文本图像）共享相同的特征分布。语义鉴别器模块用于区分支​​持域和目标域之间的语义特征。此外，平衡的注意模块旨在减轻注意力漂移的问题。平衡注意模块首先根据视觉瞥见向量和语义瞥见向量学习平衡参数，然后执行平衡操作以获得平衡的瞥见向量。在六个基准测试的实验，包括常规数据集，即IIIT5K，SVT，ICDAR2013和不规则数据集，即ICDAR2015，SVTP，cute80，验证我们提出的方法的有效性。

现有场景文本识别（str）方法通常使用语言模型来优化通过视觉识别（VR）模型预测的1D字符序列的联合概率，该模型忽略了字符实例内和之间的视觉语义的2D空间上下文不概括为任意形状的场景文本。要解决此问题，我们首次尝试根据本文的视觉语义进行文本推理。从技术上讲，给定VR模型预测的字符分割映射，我们为每个实例构造一个子图，其中节点表示基于它们的空间相似度之间的节点中的像素和边缘。然后，这些子图通过其根节点顺序连接并合并到完整的图表中。基于此图，我们通过通过跨熵损失监督它来设计图表卷积网络以进行文本推理（GTR）。 GTR可以轻松插入代表性的STR模型，以提高其性能，因为较好的文本推理。具体而言，我们通过将GTR并将GTR与基于分段的STR基线中的语言模型并联的语言模型进行了构建模型，即，通过相互学习可以有效利用视觉语言互补性。 S-GTR在六个挑战性的STR基准上套装新的最先进的基准，并概括为多语言数据集。代码可用于https://github.com/adeline-cs/gtr。

利用卷积层的特征，神经网络对于模式识别任务非常有效。然而，在某些情况下，他们的决定基于意外信息，导致标准基准的高性能，而且还缺乏挑战测试条件和不行性失败的普遍性。最近的工作已被称为“快捷方式学习”并解决了它在多个域中的存在。在文本识别中，我们揭示了另一个这样的快捷方式，从而识别员依赖于本地图像统计信息。由此激励，我们建议一种方法来规范依赖于局限性统计的依赖，提高文本识别性能。我们称为TextAdain的方法在特征映射中创建了本地扭曲，这阻止网络从局部统计到局部统计。它通过将每个特征映射视为一个元素序列，并且故意在迷你批处理中的元素之间故意不匹配的细粒度特征统计信息。尽管TextAdain的简单性，但与其他更复杂的方法相比，广泛的实验表明其有效性。 TextAdain在标准手写文本识别基准上实现最先进的结果。此外，它概括为多个架构和场景文本识别域。此外，我们证明整合TextAdain改善了更具挑战性测试条件的鲁棒性。

Automatic font generation without human experts is a practical and significant problem, especially for some languages that consist of a large number of characters. Existing methods for font generation are often in supervised learning. They require a large number of paired data, which are labor-intensive and expensive to collect. In contrast, common unsupervised image-to-image translation methods are not applicable to font generation, as they often define style as the set of textures and colors. In this work, we propose a robust deformable generative network for unsupervised font generation (abbreviated as DGFont++). We introduce a feature deformation skip connection (FDSC) to learn local patterns and geometric transformations between fonts. The FDSC predicts pairs of displacement maps and employs the predicted maps to apply deformable convolution to the low-level content feature maps. The outputs of FDSC are fed into a mixer to generate final results. Moreover, we introduce contrastive self-supervised learning to learn a robust style representation for fonts by understanding the similarity and dissimilarities of fonts. To distinguish different styles, we train our model with a multi-task discriminator, which ensures that each style can be discriminated independently. In addition to adversarial loss, another two reconstruction losses are adopted to constrain the domain-invariant characteristics between generated images and content images. Taking advantage of FDSC and the adopted loss functions, our model is able to maintain spatial information and generates high-quality character images in an unsupervised manner. Experiments demonstrate that our model is able to generate character images of higher quality than state-of-the-art methods.

Astounding results from Transformer models on natural language tasks have intrigued the vision community to study their application to computer vision problems. Among their salient benefits, Transformers enable modeling long dependencies between input sequence elements and support parallel processing of sequence as compared to recurrent networks e.g., Long short-term memory (LSTM). Different from convolutional networks, Transformers require minimal inductive biases for their design and are naturally suited as set-functions. Furthermore, the straightforward design of Transformers allows processing multiple modalities (e.g., images, videos, text and speech) using similar processing blocks and demonstrates excellent scalability to very large capacity networks and huge datasets. These strengths have led to exciting progress on a number of vision tasks using Transformer networks. This survey aims to provide a comprehensive overview of the Transformer models in the computer vision discipline. We start with an introduction to fundamental concepts behind the success of Transformers i.e., self-attention, large-scale pre-training, and bidirectional feature encoding. We then cover extensive applications of transformers in vision including popular recognition tasks (e.g., image classification, object detection, action recognition, and segmentation), generative modeling, multi-modal tasks (e.g., visual-question answering, visual reasoning, and visual grounding), video processing (e.g., activity recognition, video forecasting), low-level vision (e.g., image super-resolution, image enhancement, and colorization) and 3D analysis (e.g., point cloud classification and segmentation). We compare the respective advantages and limitations of popular techniques both in terms of architectural design and their experimental value. Finally, we provide an analysis on open research directions and possible future works. We hope this effort will ignite further interest in the community to solve current challenges towards the application of transformer models in computer vision.

最近，由于其广泛的商业价值，从视觉丰富的文档（例如门票和简历）中自动提取信息已成为一个热门而重要的研究主题。大多数现有方法将此任务分为两个小节：用于从原始文档图像中获取纯文本的文本阅读部分以及用于提取密钥内容的信息提取部分。这些方法主要集中于改进第二个方法，同时忽略了这两个部分高度相关。本文提出了一个统一的端到端信息提取框架，从视觉上富含文档中提出，文本阅读和信息提取可以通过精心设计的多模式上下文块相互加强。具体而言，文本阅读部分提供了多模式功能，例如视觉，文本和布局功能。开发了多模式上下文块，以融合生成的多模式特征，甚至是从预训练的语言模型中获得的先验知识，以提供更好的语义表示。信息提取部分负责使用融合上下文功能生成密钥内容。该框架可以以端到端的可训练方式进行培训，从而实现全球优化。更重要的是，我们将视觉丰富的文档定义为跨两个维度的四个类别，即布局和文本类型。对于每个文档类别，我们提供或推荐相应的基准，实验设置和强大的基准，以弥补该研究领域缺乏统一评估标准的问题。报告了对四种基准测试的广泛实验（从固定布局到可变布局，从完整的文本到半未结构化的文本），证明了所提出的方法的有效性。数据，源代码和模型可用。