听觉事件的感知固有地依赖于音频和视觉提示。许多现有的多模式方法使用模式特异性模型处理每种模式，然后融合嵌入以编码关节信息。相反，我们采用异质图来明确捕获模态之间的空间和时间关系，并表示有关基础信号的详细信息。使用异质图方法来解决视觉感知的声学事件分类的任务，该任务是一种紧凑，有效且可扩展的方式，以图形形式表示数据。通过异质图，我们显示了在空间和时间尺度上有效地建模模式和模式间关系。我们的模型可以通过相关的超参数轻松适应不同的事件规模。在Audioset上进行的实验（一个大型基准）表明，我们的模型实现了最先进的性能。
translated by 谷歌翻译
具有高质量手动注释的大型数据库在音频域中很少。因此，我们探索了一种从高度有限的标记数据中学习音频表示的自我监管的图形方法。将每个音频示例视为图节点，我们提出了一个基于子图的框架，具有新颖的自学任务，可以学习有效的音频表示。在训练过程中，通过对整个可用培训数据进行采样以利用标签和未标记的音频样本之间的关系来构建子图。在推断期间，我们使用随机边缘来减轻图形结构的开销。我们在三个基准音频数据库和两个任务上评估了模型：声学事件检测和语音情绪识别。我们的半监督模型的性能更好或与完全监督的模型相当，并且优于几个竞争现有模型。我们的模型是紧凑的（240K参数），可以产生对不同类型的信号噪声强大的通用音频表示。
translated by 谷歌翻译
我们通过新的框架解决了主动扬声器检测问题，称为法术，从而了解远程多模式图来编码音频和视觉数据之间的模态关系。我们将主动扬声器检测作为了解长期依赖项的节点分类任务。我们首先从视频构造图形，以便每个节点对应一个人。表示在定义的时间窗口中它们之间相同身份的共享边缘的节点。同一视频帧中的节点也连接以编码人际交互。通过对AVA-ActiveSpeaker数据集的广泛实验，我们证明了基于学习的基于图形的表示，由于其明确的空间和时间结构，显着提高了整体性能。法术优于若干相关基线，并在现有技术的比例下执行，同时需要较小的计算成本阶数。
translated by 谷歌翻译
在带有多个扬声器的视频中，主动扬声器检测（ASD）是一项具有挑战性的任务，因为它需要在长时间的暂时窗口上学习有效的视听功能和时空相关性。在本文中，我们提出了一种新颖的时空图形学习框架，可以解决复杂的任务，例如ASD。为此，视频框架中的每个人首先在该框架的唯一节点中编码。对应于跨帧的单个人的节点已连接以编码其时间动力学。帧中的节点也连接到编码人际关系。因此，咒语将ASD减少到节点分类任务。重要的是，咒语能够在所有节点上为所有节点上的长时间环境推理，而无需依赖计算昂贵的完全连接的图形神经网络。通过对Ava-Activespeaker数据集进行的广泛实验，我们证明了基于图形的表示形式可以显着改善主动扬声器检测性能，因为其明确的空间和时间结构。拼写优于所有先前的最新方法，同时需要大大降低内存和计算资源。我们的代码可在https://github.com/sra2/spell上公开获取
translated by 谷歌翻译
识别和本地化视频中的事件是视频理解的基本任务。由于事件可能发生在听觉和视觉方式中，因此多式联合的详细感知对于完全的场景理解至关重要。最先前的作品试图从整体角度分析视频。但是，它们不考虑多个尺度的语义信息，这使得模型难以定位各种长度的事件。在本文中，我们提供了一个多模式金字塔注意网络（MM-PYRAMID），用于捕获和集成多级时间特征，用于视听事件定位和视听视频解析。具体而言，我们首先提出了专注特征金字塔模块。该模块通过多个堆叠金字塔单元捕获时间金字塔特征，每个单元都由固定尺寸的注意力块和扩张的卷积块组成。我们还设计了一种自适应语义融合模块，它利用单位级注意块和选择性融合块以交互地集成金字塔特征。对视听事件定位的广泛实验和虚线监督的视听视频解析任务验证了我们方法的有效性。
translated by 谷歌翻译
Humans perceive the world by concurrently processing and fusing high-dimensional inputs from multiple modalities such as vision and audio. Machine perception models, in stark contrast, are typically modality-specific and optimised for unimodal benchmarks, and hence late-stage fusion of final representations or predictions from each modality (`late-fusion') is still a dominant paradigm for multimodal video classification. Instead, we introduce a novel transformer based architecture that uses `fusion bottlenecks' for modality fusion at multiple layers. Compared to traditional pairwise self-attention, our model forces information between different modalities to pass through a small number of bottleneck latents, requiring the model to collate and condense the most relevant information in each modality and only share what is necessary. We find that such a strategy improves fusion performance, at the same time reducing computational cost. We conduct thorough ablation studies, and achieve state-of-the-art results on multiple audio-visual classification benchmarks including Audioset, Epic-Kitchens and VGGSound. All code and models will be released.
translated by 谷歌翻译
创建人工社会智能 - 可以理解多人互动的细微差别的算法 - 在处理多模式视频的面部表情和手势方面是一个令人兴奋的新兴挑战。最近的多模式方法已经在许多任务上设定了最新的现状，但是很难在社交互动中对复杂的面对面对话动态进行建模，尤其是在自我监督的设置中。在本文中，我们提出了面对面的对比学习（F2F-CL），这是一个图形神经网络，旨在使用分解节点对社交互动进行建模，以将沿语言转弯界限的多模式面对面互动进行上下文。借助F2F-CL模型，我们建议在同一视频中不同口语转弯的分数节点之间进行对比学习。我们通过实验评估了具有挑战性的社会IQ数据集并显示了最先进的结果。
translated by 谷歌翻译
主动演讲者的检测和语音增强已成为视听场景中越来越有吸引力的主题。根据它们各自的特征，独立设计的体系结构方案已被广泛用于与每个任务的对应。这可能导致模型特定于任务所学的表示形式，并且不可避免地会导致基于多模式建模的功能缺乏概括能力。最近的研究表明，建立听觉和视觉流之间的跨模式关系是针对视听多任务学习挑战的有前途的解决方案。因此，作为弥合视听任务中多模式关联的动机，提出了一个统一的框架，以通过在本研究中通过联合学习视听模型来实现目标扬声器的检测和语音增强。
translated by 谷歌翻译
在这项工作中，我们专注于生成嘈杂的，教学视频的图形表示，以供视频理解。我们提出了一种自制，可解释的方法，该方法不需要任何图形表示的注释，这将是昂贵且耗时的。我们试图通过呈现语义视频图或SVGraph来克服“黑匣子”学习限制，这是一种多模式的方法，它利用叙述来实现学习图的语义解释性。SVGraph 1）依靠多种方式之间的一致性来学习统一的图形结构，并借助跨模式的注意力和2）在语义分配的帮助下分配语义解释，从而从视频叙述中捕获语义。我们在多个数据集上执行实验，并演示语义图学习中SVGraph的解释性。
translated by 谷歌翻译
我们提出了一个简明的视频表示，该视频将感知有意义的功能编码为图。通过这种表示，我们旨在利用视频中的大量冗余并节省计算。首先，我们通过将Superpixel视为图形节点并在相邻的Superpixels之间创建空间和时间连接来构建视频的超级像素图表示。然后，我们利用图形卷积网络来处理此表示形式并预测所需的输出。结果，我们能够使用更少的参数训练模型，这转化为简短的培训期和计算资源要求的减少。一项关于公开可用数据集动力学-400和Charades的全面实验研究表明，该提出的方法具有很高的成本效益，并且在培训和推理过程中使用有限的商品硬件。它减少了计算要求10倍，同时获得与最先进方法相当的结果。我们认为，提出的方法是一个有希望的方向，可以为更有效地解决视频理解打开大门，并使更多的资源用户能够在该研究领域蓬勃发展。
translated by 谷歌翻译
本文提出了一种新型的多式模式自学架构，用于节能音频 - 视听（AV）语音增强，将图形神经网络与规范相关性分析（CCA-GNN）集成在一起。所提出的方法将其基础放在最先进的CCA-GNN上，该方法通过最大化相同输入的增强视图对之间的相关性来学习代表性的嵌入，同时脱离了断开连接的特征。常规CCA-GNN的关键思想涉及丢弃增强变化的信息并保留增强不变的信息，同时阻止捕获冗余信息。我们提出的AV CCA-GNN模型涉及多模式表示学习环境。具体而言，我们的模型通过从音频和视觉嵌入的同一信道和规范相关性的增强视图中最大化的规范相关性来改善上下文AV语音处理。此外，它提出了一个位置节点编码，该位置节点在计算节点最近的邻居时考虑了先前的框架序列距离，而不是特征空间表示，并通过邻域的连接在嵌入式中引入时间信息。在基准Chime3数据集上进行的实验表明，我们提出的基于框架的AV CCA-GNN确保在时间上下文中获得更好的特征学习，从而导致比最先进的CCA-GNN更节能的语音重建感知器（MLP）和长期记忆（LSTM）模型。
translated by 谷歌翻译
We present a method for simultaneously localizing multiple sound sources within a visual scene. This task requires a model to both group a sound mixture into individual sources, and to associate them with a visual signal. Our method jointly solves both tasks at once, using a formulation inspired by the contrastive random walk of Jabri et al. We create a graph in which images and separated sounds correspond to nodes, and train a random walker to transition between nodes from different modalities with high return probability. The transition probabilities for this walk are determined by an audio-visual similarity metric that is learned by our model. We show through experiments with musical instruments and human speech that our model can successfully localize multiple sounds, outperforming other self-supervised methods. Project site: https://hxixixh.github.io/mix-and-localize
translated by 谷歌翻译
We present Masked Audio-Video Learners (MAViL) to train audio-visual representations. Our approach learns with three complementary forms of self-supervision: (1) reconstruction of masked audio and video input data, (2) intra- and inter-modal contrastive learning with masking, and (3) self-training by reconstructing joint audio-video contextualized features learned from the first two objectives. Pre-training with MAViL not only enables the model to perform well in audio-visual classification and retrieval tasks but also improves representations of each modality in isolation, without using information from the other modality for fine-tuning or inference. Empirically, MAViL sets a new state-of-the-art on AudioSet (53.1 mAP) and VGGSound (67.1% accuracy). For the first time, a self-supervised audio-visual model outperforms ones that use external supervision on these benchmarks. Code will be available soon.
translated by 谷歌翻译
主动扬声器检测（ASD）问题的最新进展基于两个阶段的过程：特征提取和时空上下文集合。在本文中，我们提出了一个端到端的ASD工作流程，在其中共同学习特征学习和上下文预测。我们的端到端可训练网络同时学习了多模式的嵌入和汇总时空上下文。这会导致更合适的功能表示，并改善了ASD任务的性能。我们还介绍了交织的图神经网络（IGNN）块，该块根据ASD问题中的上下文主要来源分割消息。实验表明，IGNN块的汇总特征更适合ASD，从而导致最先进的性能。最后，我们设计了一种弱监督的策略，该策略表明也可以通过使用视听数据来解决ASD问题，但仅依赖于音频注释。我们通过对音频信号与可能的声源（扬声器）之间的直接关系进行建模以及引入对比度损失来实现这一目标。该项目的所有资源将在以下网址提供：https：//github.com/fuankarion/end-to-end-end-asd。
translated by 谷歌翻译
在这里，我们提出了一种用于多模式神经影像融合学习（HGM）的异质图形神经网络。传统的基于GNN的模型通常假设大脑网络是具有单一类型节点和边缘的均匀图形。然而，巨大的文献已经显示出人脑的异质性，特别是在两个半球之间。均匀脑网络不足以模拟复杂的脑状态。因此，在这项工作中，我们首先用多型节点（即左右半球节点）和多型边缘（即半球形边缘）来模拟大脑网络作为异质图。此外，我们还提出了一种基于Hetergoneou Brain网络的自我监督的预训练策略，以解决由于复杂的模型和小样本大小而过度的问题。我们在两个数据集合的结果显示出拟议模型的优越性，以疾病预测任务的其他多模型方法。此外，消融实验表明，我们具有预训练策略的模型可以减轻训练样本大小有限的问题。
translated by 谷歌翻译
视频自我监督的学习是一项挑战的任务，这需要模型的显着表达力量来利用丰富的空间时间知识，并从大量未标记的视频产生有效的监督信号。但是，现有方法未能提高未标记视频的时间多样性，并以明确的方式忽略精心建模的多尺度时间依赖性。为了克服这些限制，我们利用视频中的多尺度时间依赖性，并提出了一个名为时间对比图学习（TCGL）的新型视频自我监督学习框架，该框架共同模拟了片段间和片段间的时间依赖性用混合图对比学习策略学习的时间表示学习。具体地，首先引入空间 - 时间知识发现（STKD）模块以基于离散余弦变换的频域分析从视频中提取运动增强的空间时间表。为了显式模拟未标记视频的多尺度时间依赖性，我们的TCGL将关于帧和片段命令的先前知识集成到图形结构中，即片段/间隙间时间对比图（TCG）。然后，特定的对比学习模块旨在最大化不同图形视图中节点之间的协议。为了为未标记的视频生成监控信号，我们介绍了一种自适应片段订购预测（ASOP）模块，它利用视频片段之间的关系知识来学习全局上下文表示并自适应地重新校准通道明智的功能。实验结果表明我们的TCGL在大规模行动识别和视频检索基准上的最先进方法中的优势。
translated by 谷歌翻译
2022-04-06
我们介绍了一种视听方法，用于远程文本到视频检索。与以前专为简短视频检索设计的方法（例如，持续时间为5-15秒）不同，我们的方法旨在检索捕获复杂人类动作的长时间视频。仅标准视频方法的一个挑战是与从这样的长视频中处理数百个密集提取的帧相关的大量计算成本。为了解决这个问题，我们建议用紧凑的音频提示替换视频的部分，这些线索简洁地汇总了动态音频事件，并且处理便宜。我们的方法称为Eclipse（带有声音编码的有效剪辑），通过添加一个统一的视听变压器块，将流行的剪辑模型调整为视听视频设置，该块从视频和音频流中捕获互补的提示。除了比仅长期视频的方法快2.92倍和2.34倍的内存效率外，我们的方法还可以在几个不同的远程视频数据集上，例如ActivityNet，QVHighighlights，Youcoook2，Youcoook2，Youcook2，Youcook2，Youcook2，Youcook2，Youcook2，Youcook2， Didemo和Charades。
translated by 谷歌翻译
在本文中，我们考虑了视听同步的问题应用于视频`in-wild'（即，超越语音的一般类）。作为一项新任务，我们识别并策划具有高视听相关性的测试集，即VGG-SOCK SYNC。我们比较了一些专门设计的基于变压器的架构变体，用于模拟任意长度的音频和视觉信号，同时显着降低训练期间的内存要求。我们进一步对策划数据集进行了深入的分析，并定义了开放域视听同步的评估度量。我们在标准唇读语音基准测试中应用我们的方法，LRS2和LRS3，在各个方面的消融。最后，我们在新的VGG-SOCKC SYNC视频数据集中设置了与超过160个不同类别的通用视听同步的第一个基准。在所有情况下，我们所提出的模型通过显着的保证金优于以前的最先进。
translated by 谷歌翻译
视频动作细分和识别任务已广泛应用于许多领域。大多数先前的研究都采用了大规模的高计算视觉模型来全面了解视频。但是，很少有研究直接采用图形模型来推理视频。该图模型提供了更少的参数，低计算成本，大型接受场和灵活的邻域消息聚合的好处。在本文中，我们提出了一个名为Smatantic2Graph的基于图的方法，以将视频动作分割和识别问题转变为图的节点分类。为了保留视频中的细粒关系，我们在框架级别上构建视频的图形结构，并设计了三种类型的边缘：时间，语义和自循环。我们将视觉，结构和语义特征与节点属性相结合。语义边缘用于建模长期时空关系，而语义特征是基于文本提示的标签文本的嵌入。图形神经网络（GNN）模型用于学习多模式特征融合。实验结果表明，与最先进的结果相比，语义2Graph在GTEA和50萨拉德方面取得了改善。多次消融实验进一步证实了语义特征在改善模型性能方面的有效性，语义边缘使Smantic2Grapl可以以低成本捕获长期依赖性。
translated by 谷歌翻译
我们呈现了一个用于学习视听表示的自我监督的框架。在我们的框架中引入了一种小说概念，其中除了学习模态和标准的“同步的”跨模型关系之外，riscross也会学习“异步”的跨模式关系。我们展示通过放松音频和视觉模态之间的时间同步性，网络了解强劲的时间不变的表示。我们的实验表明，音频和视觉方式的强大增强，可放松交叉模态时间同步优化性能。要预先绘制我们提出的框架，我们使用具有不同大小，动力学，动力学-400和augioset的不同数据集。学习的表示是在许多下游任务中评估的，即行动识别，声音分类和检索。 Crisscross显示了动作识别的最先进的性能（UCF101和HMDB51）和声音分类（ESC50）。将公开可用的代码和预赠品模型。
translated by 谷歌翻译