在图像字幕的数据集中，每个图像都与几个字幕对齐。尽管这些描述的质量有所不同，但现有字幕模型在培训过程中平等对待它们。在本文中，我们提出了一个新的句子质量控制信号，该信号被视为字幕模型的附加输入。通过集成控制信号信息，字幕模型可以意识到目标句子的质量水平，并以不同的方式处理它们。此外，我们提出了一种专门针对句子质量控制信号的新型增强培训方法：面向质量的自称训练（Q-SAT）。配备了R-Drop策略，由最高质量水平超过基线模型控制的模型在基于准确性的评估指标上进行了很多验证，该模型验证了我们提出的方法的有效性。

可控图像标题（CIC）任务旨在在指定的控制信号上生成条件。提出了几种与结构相关的控制信号来控制句子的语义结构，例如句子长度和语音标签序列。然而，由于基于精度的奖励主要针对内容而不是语义结构，因此现有的增强培训方法不适用于结构相关的CIC模型。缺乏加固训练导致偏差和优化功能和评估度量之间的不一致。在本文中，我们提出了一种用于结构相关控制信号的新型加固训练方法：自注释培训（SAT），提高CIC模型的准确性和可控性。在SAT中，设计递归注释机制（RAM）以强制输入控制信号以匹配实际输出句子。此外，我们提出了额外的对准奖励来Finetune在SAT方法后培训的CIC模型，这进一步提高了模型的可控性。在MSCOCO基准测试中，我们对不同结构相关的控制信号和不同基线模型进行广泛的实验，结果表明了我们方法的有效性和普遍性。

描述使用自然语言的图像被广泛称为图像标题，这是由于计算机视觉和自然语言生成技术的发展而达成了一致的进展。虽然传统的标题模型基于流行度量的高精度，即BLEU，苹果酒和香料，探索了标题与其他类似图像中的标题的能力。为了产生独特的标题，一些先驱采用对比学习或重新加权地面真理标题，其侧重于一个输入图像。然而，忽略了类似图像组中对象之间的关系（例如，相同专辑中的项目或属性或细粒度事件中的物品）。在本文中，我们使用基于组的独特标题模型（Gdiscap）来提高图像标题的独特性，其将每个图像与一个类似的组中的其他图像进行比较，并突出显示每个图像的唯一性。特别是，我们提出了一种基于组的内存注意力（GMA）模块，其存储在图像组中是唯一的对象特征（即，与其他图像中的对象的低相似性）。生成字幕时突出显示这些唯一的对象功能，从而产生更有独特的标题。此外，选择地面标题中的独特单词来监督语言解码器和GMA。最后，我们提出了一种新的评估度量，独特的单词率（Diswordrate）来测量标题的独特性。定量结果表明，该方法显着提高了几种基线模型的独特性，并实现了精度和独特性的最先进的性能。用户学习的结果与定量评估一致，并证明了新的公制Diswordrate的合理性。

图像字幕模型通常是根据人体注释的地面真实字幕训练的，该字幕可能会产生准确但通用的字幕。为了提高字幕模型的独特性，我们首先提出了一系列使用大规模视觉语言预训练模型剪辑来评估标题的独特性。然后，我们提出了一种简单有效的训练策略，该策略通过在相似图像组中进行比较来训练模型。我们对各种现有模型进行了广泛的实验，以证明我们的策略的广泛适用性以及基于公制的结果与人类评估的一致性。通过将最佳模型的性能与现有的最新模型进行比较，我们声称我们的模型实现了针对独特性目标的新最先进的。

It is well believed that the higher uncertainty in a word of the caption, the more inter-correlated context information is required to determine it. However, current image captioning methods usually consider the generation of all words in a sentence sequentially and equally. In this paper, we propose an uncertainty-aware image captioning framework, which parallelly and iteratively operates insertion of discontinuous candidate words between existing words from easy to difficult until converged. We hypothesize that high-uncertainty words in a sentence need more prior information to make a correct decision and should be produced at a later stage. The resulting non-autoregressive hierarchy makes the caption generation explainable and intuitive. Specifically, we utilize an image-conditioned bag-of-word model to measure the word uncertainty and apply a dynamic programming algorithm to construct the training pairs. During inference, we devise an uncertainty-adaptive parallel beam search technique that yields an empirically logarithmic time complexity. Extensive experiments on the MS COCO benchmark reveal that our approach outperforms the strong baseline and related methods on both captioning quality as well as decoding speed.

大多数当前图像标题模型通常从左到右生成标题。这种单向财产使它们只能利用过去的背景但不是未来的背景。尽管最近的基于改进的模型可以通过基于第一阶段的预检索或预先生成的标题在第二阶段生成新的标题来利用过去和未来的上下文，但是这些模型的解码器通常由两个网络组成〜（即第一阶段中的猎犬或标题器和第二阶段的炼油厂），其只能顺序地执行。在本文中，我们引入了一种用于图像标题的紧凑双向变压器模型，其可以在解码器并行执行解码器时隐式地和明确地利用双向上下文。具体地，通过将​​左右（L2R）和向右（R2L）紧密地耦合到单个紧凑型〜（即隐式）和可选地允许两个流的相互作用（即明确）的相互作用（即明确）来实现来实现。最终标题以句子级集合方式从L2R或R2L流中选择。我们对MSCOCO基准进行广泛的消融研究，并找到紧凑的架构，它用作隐式利用双向上下文的正则化，以及句子级集合比显式交互机制扮演更重要的角色。通过无缝地与单词级集合组合，句子级集合的效果进一步放大。我们进一步将传统的单流自我关键培训扩展到此架构下的双流程版本，并与非视语 - 预先预订模型相比，实现新的最先进导致。源代码可用于{\ color {magenta} \ url {https://github.com/yuanezhou/cbtrans}}。

现有的图像字幕的方法通常从左到右生成句子逐字，并在本地上下文中受到限制，包括给定的图像和历史记录生成的单词。在解码过程中，有许多研究目的是利用全球信息，例如迭代改进。但是，它仍然探讨了如何有效，有效地纳入未来的环境。为了回答这个问题，受到非自动回归图像字幕（NAIC）的启发，可以通过修改后的掩码操作利用两侧关系，我们的目标是将此进步嫁接到常规的自动回归图像字幕（AIC）模型，同时保持推理效率而无需进行推理效率额外的时间成本。具体而言，首先对AIC和NAIC模型结合了共享的视觉编码器，迫使视觉编码器包含足够有效的未来上下文。然后鼓励AIC模型捕获NAIC模型在其不自信的单词上互换的跨层互换的因果动态，该单词遵循教师学生的范式，并通过分配校准训练目标进行了优化。经验证据表明，我们所提出的方法清楚地超过了自动指标和人类评估的最新基线，对MS COCO基准测试。源代码可在以下网址获得：https：//github.com/feizc/future-caption。

视频字幕结合了视频理解和语言生成。与图像标题不同，描述具有几乎每个对象的细节的静态图像，视频字幕通常考虑一系列帧和偏置朝向聚焦对象的偏差，例如，保持焦点的对象，无论更改的背景如何。因此，检测和适当地容纳聚焦对象在视频字幕中是至关重要的。为了执行聚焦对象的描述并实现可控制的视频标题，我们提出了一种面向对象的非自动增加方法（O2NA），其执行三个步骤中的标题生成：1）识别聚焦对象并预测其在目标字幕中的位置; 2）生成相关的属性词和这些聚焦对象的关系词来形成标题草案; 3）将视频信息组合以将标题草案精炼到流利的最终标题。由于产生了聚焦的对象并领先于其他单词，因此难以应用逐字的自回归生成过程;相反，我们采用了非自动评级方法。在两个基准数据集，即MSR-VTT和MSVD上的实验证明了O2NA的有效性，这实现了与最先进的结果竞争，但具有更高的多样性和推理速度。

在过去的几年中，引起了独特的图像字幕（DIC）（DIC） - 生成独特的标题来描述目标图像的独特细节。最近的DIC工作建议通过将目标图像与一组语义相似的参考图像（即基于参考的DIC（REF-DIC））进行比较来生成独特的字幕。它的目的是使生成的字幕可以分开目标图像和参考图像。不幸的是，现有参考作品使用的参考图像易于区分：这些参考图像仅类似于场景级别的目标图像，并且几乎没有常见的对象，因此，即使不考虑该模型，Ref-DIC模型也可以微不足道地生成独特的字幕参考图像。为了确保Ref-DIC模型真正了解目标图像中的唯一对象（或属性），我们首先提出了两个新的Ref-DIC基准。具体而言，我们设计了一个两阶段的匹配机制，该机制严格控制对象 - /属性级别的目标和参考图像之间的相似性（相对于场景级别）。其次，为了产生独特的标题，我们开发了一个强大的基于变压器的ref-DIC基线，称为传播。它不仅从目标图像中提取视觉特征，而且还编码目标和参考图像中对象之间的差异。最后，为了获得更值得信赖的基准测试，我们提出了一个新的评估度量指标，名为Ref-DIC的Discider，评估生成的字幕的准确性和独特性。实验结果表明，我们的传统可以产生独特的标题。此外，它在不同指标上的两个新基准测试中的几个最先进的模型都优于多种最先进的模型。

连接视觉和语言在生成智能中起着重要作用。因此，已经致力于图像标题的大型研究工作，即用句法和语义有意义的句子描述图像。从2015年开始，该任务通常通过由Visual Encoder组成的管道和文本生成的语言模型来解决任务。在这些年来，两种组件通过对象区域，属性，介绍多模态连接，完全关注方法和伯特早期融合策略的利用而显着发展。但是，无论令人印象深刻的结果，图像标题的研究还没有达到结论性答案。这项工作旨在提供图像标题方法的全面概述，从视觉编码和文本生成到培训策略，数据集和评估度量。在这方面，我们量化地比较了许多相关的最先进的方法来确定架构和培训策略中最有影响力的技术创新。此外，讨论了问题的许多变体及其开放挑战。这项工作的最终目标是作为理解现有文献的工具，并突出显示计算机视觉和自然语言处理的研究领域的未来方向可以找到最佳的协同作用。

自动音频字幕是一项跨模式翻译任务，旨在为给定的音频剪辑生成自然语言描述。近年来，随着免费可用数据集的发布，该任务受到了越来越多的关注。该问题主要通过深度学习技术解决。已经提出了许多方法，例如研究不同的神经网络架构，利用辅助信息，例如关键字或句子信息来指导字幕生成，并采用了不同的培训策略，这些策略极大地促进了该领域的发展。在本文中，我们对自动音频字幕的已发表贡献进行了全面综述，从各种现有方法到评估指标和数据集。我们还讨论了公开挑战，并设想可能的未来研究方向。

Automated audio captioning is a cross-modal translation task for describing the content of audio clips with natural language sentences. This task has attracted increasing attention and substantial progress has been made in recent years. Captions generated by existing models are generally faithful to the content of audio clips, however, these machine-generated captions are often deterministic (e.g., generating a fixed caption for a given audio clip), simple (e.g., using common words and simple grammar), and generic (e.g., generating the same caption for similar audio clips). When people are asked to describe the content of an audio clip, different people tend to focus on different sound events and describe an audio clip diversely from various aspects using distinct words and grammar. We believe that an audio captioning system should have the ability to generate diverse captions, either for a fixed audio clip, or across similar audio clips. To this end, we propose an adversarial training framework based on a conditional generative adversarial network (C-GAN) to improve diversity of audio captioning systems. A caption generator and two hybrid discriminators compete and are learned jointly, where the caption generator can be any standard encoder-decoder captioning model used to generate captions, and the hybrid discriminators assess the generated captions from different criteria, such as their naturalness and semantics. We conduct experiments on the Clotho dataset. The results show that our proposed model can generate captions with better diversity as compared to state-of-the-art methods.

零镜头的释义引起了很多关注，因为大规模的高质量释义语料库受到限制。反向翻译，也称为基于枢轴的方法，是典型的。几项作品利用不同的信息为“枢轴”，例如语言，语义表示等。在本文中，我们使用视觉信息（例如反向翻译的“枢轴”）进行探索。与管道背面翻译方法不同，我们仅基于配对的图像捕获数据提出了视觉信息引导的零摄像机释义（VIPG）。它共同训练图像字幕模型和释义模型，并利用图像字幕模型来指导释义模型的训练。自动评估和人类评估都表明，我们的模型可以以良好的相关性，流利性和多样性生成释义，而图像是零摄影术产生的一种有希望的枢轴。

多年来，最新的（SOTA）图像字幕方法已在某些评估指标（例如苹果酒）上取得了令人鼓舞的结果。但是，最近的发现表明，这些方法生成的字幕往往会偏向“平均”字幕，该字幕仅捕获训练语料库中最通用的模式（又称语言模式），即所谓的模式崩溃问题。受其影响的影响，生成的标题在多样性上受到限制，通常不如人类做出的自然图像描述。在本文中，我们试图通过提出离散模式学习（DML）范式来避免此问题。我们的创新想法是探索训练字幕语料库中的丰富模式，以学习一组“模式嵌入”，并进一步使用它们来控制现有图像字幕模型生成的字幕模式。具体而言，提出的DML优化了由图像条件的离散变异自动编码器（CDVAE）分支和模式条件的图像字幕（MIC）分支组成的双重体系结构。 CDVAE分支将每个图像标题映射到存储在学习的代码簿中的模式嵌入之一，并接受了纯粹的非自动性生成目标训练，以使模式与众不同和代表性。可以简单地从现有的图像字幕模型中修改麦克风分支，其中将模式嵌入添加到原始单词嵌入作为控制信号中。在实验中，我们将提出的DML应用于两个广泛使用的图像字幕模型，即变压器和AOANET。结果表明，学习模式嵌入成功促进了这些模型，以不同模式生成高质量的图像标题，进一步为MSCOCO数据集的多样性和质量提供了更好的性能。

新颖的对象字幕（NOC）旨在描述包含对象的图像，而无需在训练过程中观察其地面真相标题。由于缺乏字幕注释，无法通过序列到序列训练或苹果酒优化直接优化字幕模型。结果，我们提出了启用释义（P2C），这是一个针对NOC的两阶段学习框架，它将通过释义通过释义来优化输出字幕。使用P2C，字幕模型首先从仅在文本语料库中预先训练的语言模型中学习释义，从而扩展了Bank一词以提高语言流利度。为了进一步实施足够描述输入图像的视觉内容的输出字幕，我们对引入的忠诚度和充分性目标进行字幕模型执行自我贴形。由于在训练过程中没有任何地面真相标题可用于新颖的对象图像，因此我们的P2C利用交叉模式（图像文本）关联模块可以确保可以正确保留上述字幕特征。在实验中，我们不仅表明我们的P2C在NOCAPS和COCO字幕数据集上实现了最先进的性能，而且还通过替换NOC的语言和跨模式关联模型来验证学习框架的有效性和灵活性。实施详细信息和代码可在补充材料中找到。

Controllable image captioning models generate human-like image descriptions, enabling some kind of control over the generated captions. This paper focuses on controlling the caption length, i.e. a short and concise description or a long and detailed one. Since existing image captioning datasets contain mostly short captions, generating long captions is challenging. To address the shortage of long training examples, we propose to enrich the dataset with varying-length self-generated captions. These, however, might be of varying quality and are thus unsuitable for conventional training. We introduce a novel training strategy that selects the data points to be used at different times during the training. Our method dramatically improves the length-control abilities, while exhibiting SoTA performance in terms of caption quality. Our approach is general and is shown to be applicable also to paragraph generation.

增强描述视频内容的句子的多样性是近期视频字幕研究中出现的重要问题。在本文中，我们通过模仿示例句语法来自定义视频标题的小说视角来探讨此问题。具体地，给定视频和任何语法有效的示例句子，我们介绍了一个新的语法定制视频标题（SCVC）的任务，旨在生成一个字幕，不仅开始描述视频内容，而且还句法模仿给定的示例句子。为了解决SCVC任务，我们提出了一种新的视频标题模型，其中首先设计了分层句子语法编码器来提取示例句子的语法结构，然后设计了语法调节标题解码器以生成表达视频语义的语法结构标题。由于没有可用的语法定制地面视频字幕，我们通过提出新的培训策略来解决这种挑战，该策略利用传统的成对视频标题数据和我们所收集的示例性句子来完成模型学习。在语义，句法，流畅性和多样性评估方面进行了广泛的实验，清楚地展示了我们的模型能力，以生成与丰富的多样性很好地模仿不同示例性句子的语法变化和语义 - 相干的视频标题。

Top-down visual attention mechanisms have been used extensively in image captioning and visual question answering (VQA) to enable deeper image understanding through fine-grained analysis and even multiple steps of reasoning. In this work, we propose a combined bottom-up and topdown attention mechanism that enables attention to be calculated at the level of objects and other salient image regions. This is the natural basis for attention to be considered. Within our approach, the bottom-up mechanism (based on Faster R-CNN) proposes image regions, each with an associated feature vector, while the top-down mechanism determines feature weightings. Applying this approach to image captioning, our results on the MSCOCO test server establish a new state-of-the-art for the task, achieving CIDEr / SPICE / BLEU-4 scores of 117.9, 21.5 and 36.9, respectively. Demonstrating the broad applicability of the method, applying the same approach to VQA we obtain first place in the 2017 VQA Challenge.

视频标题旨在根据内容生成自然语言描述，其中表示学习起到至关重要的作用。现有方法主要通过对地理文本的生成标题的字词比较来在监督学习框架内开发，而不会完全利用语言语义。在这项工作中，我们提出了一个分层模块化网络，在生成字幕之前从三个级别桥接视频表示和语言语义。特别是，层次结构由以下组成：（i）实体级别，其突出显示最有可能在字幕中提及的对象。 （ii）谓词级别，它学习在突出显示的对象上调节的行动，并由标题中的谓词进行监督。 （iii）句子级别，了解全局语义表示，并受到整个标题的监督。每个级别由一个模块实现。广泛的实验结果表明，该方法对两个广泛使用的基准测试的最先进模型有利地表现出：MSVD 104.0％和苹果酒评分中的MSR-VTT 51.5％。

图像字幕模型旨在通过提供输入图像的自然语言描述来连接视觉和语言。在过去的几年中，通过学习参数模型并提出视觉特征提取的进步或建模更好的多模式连接来解决该任务。在本文中，我们研究了使用KNN记忆的图像字幕方法的开发，可以从外部语料库中检索知识以帮助生成过程。我们的架构结合了一个基于视觉相似性，可区分编码器和KNN-agn-agn-agement注意层的知识检索器，以根据过去的上下文和从外部内存检索的文本进行预测令牌。在可可数据集上进行的实验结果表明，采用明确的外部记忆可以帮助生成过程并提高标题质量。我们的工作开辟了新的途径，以更大规模改善图像字幕模型。