基于最近的现实语言建模（GPT-3）和跨模型表示（CLIP），GAUD \'我开发了帮助设计师使用自然语言搜索鼓舞人心的图像。在设计过程的早期阶段，目的是引出客户首选的创意方向，设计师通常会创建一个名为“情绪板”的鼓舞人心的图像的主题集合。创建情绪板涉及使用关键字或图像执行的顺序图像搜索。高德\'我这个转变过程中的谈话，其中用户正在逐步详细介绍了情绪板上的主题。此表示允许我们的AI从项目简报开始从PTPT-3假设的主题，从划线开始，从头开始生成新的搜索查询。与以前的电容委员会创作方法相比，据我们所知，我们的首次尝试将情绪板代表为设计人员何时向客户提出创意方向时讲述的故事。

We summarize our TRECVID 2022 Ad-hoc Video Search (AVS) experiments. Our solution is built with two new techniques, namely Lightweight Attentional Feature Fusion (LAFF) for combining diverse visual / textual features and Bidirectional Negation Learning (BNL) for addressing queries that contain negation cues. In particular, LAFF performs feature fusion at both early and late stages and at both text and video ends to exploit diverse (off-the-shelf) features. Compared to multi-head self attention, LAFF is much more compact yet more effective. Its attentional weights can also be used for selecting fewer features, with the retrieval performance mostly preserved. BNL trains a negation-aware video retrieval model by minimizing a bidirectionally constrained loss per triplet, where a triplet consists of a given training video, its original description and a partially negated description. For video feature extraction, we use pre-trained CLIP, BLIP, BEiT, ResNeXt-101 and irCSN. As for text features, we adopt bag-of-words, word2vec, CLIP and BLIP. Our training data consists of MSR-VTT, TGIF and VATEX that were used in our previous participation. In addition, we automatically caption the V3C1 collection for pre-training. The 2022 edition of the TRECVID benchmark has again been a fruitful participation for the RUCMM team. Our best run, with an infAP of 0.262, is ranked at the second place teamwise.

跨模式检索引起了计算机视觉和自然语言处理域的广泛关注。随着卷积和经常性神经网络的发展，跨图像文本模态的检索瓶颈不再是图像和文本特征的提取，而是嵌入空间中有效的损失函数学习。许多损失函数试图从异质方式中更接近成对特征。本文提出了一种使用模式内约束损耗函数学习图像和文本的联合嵌入的方法，以减少从相同均匀模态中违反负面对的侵犯。实验结果表明，我们的方法优于FlickR30K和Microsoft Coco数据集的最先进的双向图像检索方法。我们的代码公开可用：https：//github.com/canonchen/imc。

多模态语言视觉模型培训超过数亿图像文本对（例如剪辑，dall-e）获得了最近的浪涌，表明即使在没有每个的情况下也能够执行零或几秒钟学习和转移的显着能力目标图像数据上的示例标签。尽管存在这种趋势，迄今为止没有公开可公开的数据集足以从头划伤培训此类模型。为解决这个问题，在社区努力中，我们为公共LAION-400M构建和发布，一个具有剪辑的数据集 - 过滤400万图像文本对，其剪辑嵌入式和KNN指数允许有效的相似性搜索。

Disentangled representation learning remains challenging as ground truth factors of variation do not naturally exist. To address this, we present Vocabulary Disentanglement Retrieval~(VDR), a simple yet effective retrieval-based disentanglement framework that leverages nature language as distant supervision. Our approach is built upon the widely-used bi-encoder architecture with disentanglement heads and is trained on data-text pairs that are readily available on the web or in existing datasets. This makes our approach task- and modality-agnostic with potential for a wide range of downstream applications. We conduct experiments on 16 datasets in both text-to-text and cross-modal scenarios and evaluate VDR in a zero-shot setting. With the incorporation of disentanglement heads and a minor increase in parameters, VDR achieves significant improvements over the base retriever it is built upon, with a 9% higher on NDCG@10 scores in zero-shot text-to-text retrieval and an average of 13% higher recall in cross-modal retrieval. In comparison to other baselines, VDR outperforms them in most tasks, while also improving explainability and efficiency.

电子商务提供丰富的多模式数据，几乎没有在实践中杠杆。此数据的一个方面是用于搜索和推荐的类别树。然而，在实践中，在用户会话期间，在给定类别的文本和视觉表示之间通常存在不匹配。出现问题的激励，我们介绍了电子商务类别到图像检索的任务，并提出了任务的模型，剪辑ITA。该模型利用来自多个模式（文本，视觉和属性模态）的信息来创建产品表示。我们探索如何从多种模式（文本，视觉和属性模态）中添加信息影响模型的性能。特别是，我们观察到剪辑ITA显着优于一种可比模型，该模型仅利用可视模式和利用视觉和属性模态的可比模型。

从大规模训练数据集中获利，神经结构设计和高效推断的进步，联合嵌入成为解决交叉模态检索的主导方法。在这项工作中，我们首先表明，尽管他们有效性，但最先进的联合嵌入从长期的封闭问题中遭受显着遭受显着的困扰，其中少数画廊嵌入形成了许多查询的最近邻居。从NLP文献中汲取灵感，我们制定了一个称为QueryBank归一化（QB-Norm）的简单但有效的框架，该框架重新归属查询相似度，以解释嵌入空间中的集线器。 qb-norm提高了检索性能而不需要再培训。与事先工作不同，我们显示QB-​​Norm有效地工作，而不会对任何测试设置查询进行操作。在QB-Norm框架内，我们还提出了一种新颖的相似性归一化方法，动态倒置Softmax，比现有方法明显更强大。我们在一系列交叉模态检索模型和基准中展示了QB-Norm，在那里它一直增强超出现有技术的强基线。代码可在https://vladbogo.github.io/qb-norm/处获得。

从图像中产生短篇小说是艰巨的。与图像字幕不同，来自图像的故事产生构成了多个挑战：保持故事连贯性，适当评估故事的质量，将生成的故事转向某种风格，并解决图像故事对的参考数据集的稀缺性，以限制训练期间的训练监督。在这项工作中，我们介绍了插件的故事讲述者（PPST），并通过以下方式改进图像到故事的生成：1）通过合并大型预培训模型，即剪辑和GPT-2来减轻数据稀缺问题，以促进通过最少的监督，流利的图像到文本一代，以及2）通过合并风格适配器来控制故事的生成，从而实现了更相关的一代。我们通过非风格，浪漫风格和动作风格的PPST进行图像到故事的生成实验，并将我们生成的故事与以前的故事进行比较三个方面的故事，即故事连贯性，图像故事相关性和风格和风格健身，使用自动和人类评估。结果表明，PPST提高了故事的连贯性，并且具有更好的图像故事相关性，但尚未充分风格。

否定是一种常见的语言技能，使人类能够表达我们不想要的东西。自然，人们可能会期望视频检索能够以否定的方式支持自然语言查询，例如，发现坐在地板上而不是和狗一起玩的孩子的照片。但是，最先进的基于深度学习的视频检索模型缺乏这种能力，因为它们通常在视频说明数据集中受过培训，例如MSR-VTT和VATEX，而缺乏否定的描述。他们的检索结果基本上忽略了示例查询中的否定器，错误地返回的视频显示了孩子们玩狗。本文介绍了关于学习视频检索中否定的第一个研究，并做出如下的贡献。通过重新修复两个现有数据集（MSR-VTT和VATEX），我们提出了一个新的评估协议，以进行否定。我们建议一种基于学习的方法来培训否定视频检索模型。关键的想法是首先通过部分否定其原始标题来为特定的培训视频构造软性标题，然后对三胞胎进行双向约束损失。这种辅助损失将重量添加到标准检索损失中。重新组合基准的实验表明，通过拟议的方法重新训练剪辑（对比语言图像预训练）模型清楚地提高了其用否定处理查询的能力。此外，原始基准测试的模型性能也得到了改进。

Pre-trained representations are becoming crucial for many NLP and perception tasks. While representation learning in NLP has transitioned to training on raw text without human annotations, visual and vision-language representations still rely heavily on curated training datasets that are expensive or require expert knowledge. For vision applications, representations are mostly learned using datasets with explicit class labels such as Ima-geNet or OpenImages. For vision-language, popular datasets like Conceptual Captions, MSCOCO, or CLIP all involve a non-trivial data collection (and cleaning) process. This costly curation process limits the size of datasets and hence hinders the scaling of trained models. In this paper, we leverage a noisy dataset of over one billion image alt-text pairs, obtained without expensive filtering or post-processing steps in the Conceptual Captions dataset. A simple dual-encoder architecture learns to align visual and language representations of the image and text pairs using a contrastive loss. We show that the scale of our corpus can make up for its noise and leads to state-of-the-art representations even with such a simple learning scheme. Our visual representation achieves strong performance when transferred to classification tasks such as ImageNet and VTAB. The aligned visual and language representations enables zero-shot image classification and also set new state-of-the-art results on Flickr30K and MSCOCO image-text retrieval benchmarks, even when compared with more sophisticated crossattention models. The representations also enable cross-modality search with complex text and text + image queries.

In the field of cross-modal retrieval, single encoder models tend to perform better than dual encoder models, but they suffer from high latency and low throughput. In this paper, we present a dual encoder model called BagFormer that utilizes a cross modal interaction mechanism to improve recall performance without sacrificing latency and throughput. BagFormer achieves this through the use of bag-wise interactions, which allow for the transformation of text to a more appropriate granularity and the incorporation of entity knowledge into the model. Our experiments demonstrate that BagFormer is able to achieve results comparable to state-of-the-art single encoder models in cross-modal retrieval tasks, while also offering efficient training and inference with 20.72 times lower latency and 25.74 times higher throughput.

现有的解释模型仅生成建议的文本，但仍然难以生产各种内容。在本文中，为了进一步丰富解释，我们提出了一项名为“个性化展示”的新任务，其中我们同时提供文本和视觉信息来解释我们的建议。具体来说，我们首先选择一个个性化图像集，该图与用户对推荐物品的兴趣最相关。然后，自然语言解释将相应地产生我们的选定图像。对于这项新任务，我们从Google Local（即〜maps）收集一个大规模数据集，并构建一个用于生成多模式说明的高质量子集。我们提出了一个个性化的多模式框架，可以通过对比度学习产生多样化和视觉上的解释。实验表明，我们的框架受益于不同方式作为输入，并且与以前的各种评估指标相比，能够产生更多样化和表达的解释。

AI的创作（例如诗歌或歌词产生）吸引了行业和学术社区的越来越多的关注，在过去的几年中，许多有前途的模型提出了许多有前途的模型。现有方法通常基于单个和独立的视觉或文本信息估算输出。但是，实际上，人类通常会根据自己的经验进行创作，这可能涉及不同的方式并依次相关。为了模拟这种人类能力，在本文中，我们根据人类的经验来定义和解决一个新颖的AI创建问题。更具体地说，我们研究了如何基于顺序多模式信息生成文本。与以前的作品相比，此任务要困难得多，因为设计的模型必须很好地理解和适应不同模式之间的语义，并以顺序的方式有效地将其转化为输出。为了减轻这些困难，我们首先设计了配备有多模式注意力网络的多通道序列到序列体系结构。为了获得更有效的优化，我们然后提出了针对顺序输入量身定制的课程负抽样策略。为了基准这个问题并证明我们的模型的有效性，我们手动标记了一个新的多模式体验数据集。使用该数据集，我们通过将模型与一系列代表性基线进行比较，进行了广泛的实验，我们可以基于自动和以人为中心的指标来证明模型的显着改进。代码和数据可在：\ url {https://github.com/aman-4-real/mmtg}中获得。

基于文本的人检索的核心问题是如何弥合多模式数据之间的异质差距。以前的许多方法，用于学习以\ textbf {交叉模式分布共识预测（CDCP）}方式学习潜在的常见歧管映射范式。当将某个模态分布到公共歧管中的映射特征时，相反模态的特征分布是完全不可见的。也就是说，如何实现跨模式分布共识，以便将多模式特征嵌入和对齐构建的跨模式公共歧管中，这完全取决于模型本身的经验，而不是实际情况。通过这种方法，不可避免的是，多模式数据在共同的歧管中不能很好地对齐，这最终导致了次优的检索性能。为了克服此\ textbf {CDCP困境}，我们提出了一种称为lbul的新颖算法，以学习基于文本的人检索的一致的跨模式公共歧管（C $^{3} $ M）。正如中文的谚语所说，我们方法的核心思想是``\ textit {san si er hou xing}'，即\ textbf {thee thee thee thee thee you lap leak（lbul）}。 LBUL的常见歧管映射机制包含一个看起来的步骤和跳跃步骤。与基于CDCP的方法相比，LBUL考虑了视觉和文本方式的分布特征，然后将数据从某种模式嵌入到C $^{3} $ M中以获得更固体的交叉模式分布共识，从而获得了优质检索准确性。我们对两个基于文本的人检索数据集Cuhk-Pedes和RSTPREID评估了建议的方法。实验结果表明，所提出的LBUL胜过先前的方法，并实现了最新的性能。

大规模数据集上的视觉语言预训练（VLP）在各种下游任务上表现出了首要性能。对于VLP来说，完整且公平的基准（即包括大规模的预训练数据集和各种下游任务）是必不可少的。尽管有很多具有英语语料库的基准，但使用其他语言（例如中文）为VLP建立丰富的基准是一个关键问题。为此，我们为研究界建立了一个称为零的中国跨模式基准，以比较VLP模型。我们发布两个用于下游任务的预训练数据集和五个微调数据集。旁边，我们提出了一个新的预训练前训练框架，用于跨模式学习。具体而言，我们应用全局对比度预级分别学习图像和文本的各个表示。然后，我们通过图像文本交叉编码器和文本图像交叉编码器以细粒度的排名方式融合表示形式。为了进一步增强模型的能力，我们提出了一种由目标引导的蒸馏和特征引导的蒸馏组成的双向蒸馏策略。对于简洁起见，我们将型号r2d2命名。我们在四个公共跨模式数据集和拟议的五个下游数据集上实现最先进的性能。在Flickr30k-CN，可可-CN和Muge进行零射击任务时，与最平均召回的R2D2进行了2.5亿个数据集的R2D2，在2.5亿个数据集中进行了4.7％，5.4％和6.3％的均值改善，而与最新的召回相比艺术。数据集，模型和代码可在https://github.com/yuxie11/r2d2上找到

跨模型检索已成为仅限文本搜索引擎（SE）最重要的升级之一。最近，通过早期交互的成对文本图像输入的强大表示，Vision-Language（VL）变压器的准确性已经表现优于文本图像检索的现有方法。然而，当使用相同的范例来推理时，VL变压器的效率仍然太低，不能应用于真正的跨模型SE。通过人类学习机制和使用跨模型知识的启发，本文提出了一种新颖的视觉语言分解变压器（VLDEFormer），这大大提高了VL变压器的效率，同时保持了它们的出色准确性。通过所提出的方法，跨模型检索分为两个阶段：VL变压器学习阶段和V​​L分解阶段。后期阶段发挥单一模态索引的作用，这在某种程度上是文本SE的术语索引。该模型从早期交互预训练中学习跨模型知识，然后将其分解为单个编码器。分解只需要监督和达到1000美元+ $倍的小目标数据集，并且少于0.6美元\％平均召回。 VLDEFormer还优于COCO和FLICKR30K的最先进的视觉语义嵌入方法。

基于自然语言（NL）的车辆检索旨在搜索给定文本描述的特定车辆。不同于基于图像的车辆检索，基于NL的车辆检索不仅需要考虑车辆外观，还需要考虑周围环境和时间关系。在本文中，我们提出了一个具有空间关系建模（SSM）方法的对称网络，用于基于NL的车辆检索。具体而言，我们设计了一个对称网络，以学习文本描述和车辆图像之间的统一跨模式表示，其中保留了车辆外观细节和车辆轨迹全球信息。此外，为了更好地利用位置信息，我们提出了一种空间关系建模方法，以考虑周围环境和相互关系的考虑。定性和定量实验验证了所提出的方法的有效性。我们在第六届AI城市挑战赛的测试集上获得了43.92％的MRR准确性，该挑战是基于自然语言的车辆检索轨道，在公共排行榜上所有有​​效的提交中排名第一。该代码可从https://github.com/hbchen121/aicity2022_track2_ssm获得。

在创建3D内容时，通常需要高度专业的技能来设计和生成对象和其他资产的模型。我们通过从多模式输入（包括2D草图，图像和文本）中检索高质量的3D资产来解决此问题。我们使用夹子，因为它为高级潜在特征提供了桥梁。我们使用这些功能来执行多模式融合，以解决影响常见数据驱动方法的缺乏艺术控制。我们的方法通过使用输入潜在的嵌入方式组合，可以通过3D资产数据库进行多模式条件特征驱动的检索。我们探讨了不同输入类型和加权方法的特征嵌入不同组合的影响。

As multimodal learning finds applications in a wide variety of high-stakes societal tasks, investigating their robustness becomes important. Existing work has focused on understanding the robustness of vision-and-language models to imperceptible variations on benchmark tasks. In this work, we investigate the robustness of multimodal classifiers to cross-modal dilutions - a plausible variation. We develop a model that, given a multimodal (image + text) input, generates additional dilution text that (a) maintains relevance and topical coherence with the image and existing text, and (b) when added to the original text, leads to misclassification of the multimodal input. Via experiments on Crisis Humanitarianism and Sentiment Detection tasks, we find that the performance of task-specific fusion-based multimodal classifiers drops by 23.3% and 22.5%, respectively, in the presence of dilutions generated by our model. Metric-based comparisons with several baselines and human evaluations indicate that our dilutions show higher relevance and topical coherence, while simultaneously being more effective at demonstrating the brittleness of the multimodal classifiers. Our work aims to highlight and encourage further research on the robustness of deep multimodal models to realistic variations, especially in human-facing societal applications. The code and other resources are available at https://claws-lab.github.io/multimodal-robustness/.

通信技术的进步和智能手机的普及促进了视频广告的蓬勃发展。百度是世界领先的搜索引擎公司之一，每天收到数十亿个搜索查询。如何将视频广告与用户搜索配对是百度视频广告的核心任务。由于模态差距，比传统查询对象检索和图像到图像搜索更具挑战性的查询性检索更具挑战性。传统上，查询到视频检索是通过查询到标题检索来解决的，当瓷砖的质量不高时，这是不可靠的。近年来，随着计算机视觉和自然语言处理的快速进展，基于内容的搜索方法变得有望在查询到视频检索中。受益于大规模数据集的预处理，一些基于跨模式关注的Visionbert方法在许多视觉语言任务中不仅在学术界而且在行业中都取得了出色的表现。然而，跨模式关注的昂贵计算成本使得在工业应用中进行大规模搜索是不切实际的。在这项工作中，我们提出了一个基于树的组合注意网络（TCAN），该网络最近在百度的动态视频广告平台上推出。它提供了一种实用的解决方案，可以在大规模查询到视频搜索中部署大量的跨模式关注。在启动基于树的组合注意网络之后，点击率提高了2.29 \％，转化率提高了2.63 \％。