Although action recognition systems can achieve top performance when evaluated on in-distribution test points, they are vulnerable to unanticipated distribution shifts in test data. However, test-time adaptation of video action recognition models against common distribution shifts has so far not been demonstrated. We propose to address this problem with an approach tailored to spatio-temporal models that is capable of adaptation on a single video sample at a step. It consists in a feature distribution alignment technique that aligns online estimates of test set statistics towards the training statistics. We further enforce prediction consistency over temporally augmented views of the same test video sample. Evaluations on three benchmark action recognition datasets show that our proposed technique is architecture-agnostic and able to significantly boost the performance on both, the state of the art convolutional architecture TANet and the Video Swin Transformer. Our proposed method demonstrates a substantial performance gain over existing test-time adaptation approaches in both evaluations of a single distribution shift and the challenging case of random distribution shifts. Code will be available at \url{https://github.com/wlin-at/ViTTA}.

自从出现以来，在大型，随机收集的数据上训练的视觉模型在许多领域都有重大影响。但是，由于它们在各个领域表现出色，例如图像文本 - 取回，因此他们的内部工作仍未得到充分了解。当前的工作分析了这些模型的真实零击功能。我们从分析培训语料库的分析开始，评估测试类的程度（以及哪个）实际上是零射击，以及与单个类别的性能如何相关。我们跟进这些模型的基于属性的零击学习能力的分析，以评估这种经典的零击概念从大规模的监督中出现的方式。我们利用最近发布的LAION400M数据语料库以及公开可用的剪辑，OpenClip和Flava的模型，评估了基于属性的CUB和AWA2基准的零摄影功能。我们的分析表明：（i）在预训练期间（很多）观察到大多数流行的零射门基准中的大多数类别； （ii）零射击性能主要来自模型识别类标签的能力，每当它们存在于文本中时，并且只有在不使用类标签时才能观察到基于属性的zeroshot学习的较低的性能能力； （iii）所使用的属性数量可能会对性能产生重大影响，并且很容易导致大幅下降。

最近，出现了许多新的半监督学习方法。随着时间的流逝，ImageNet和类似数据集的准确性提高，尚未探索自然图像分类以外的任务的性能。大多数半监督的学习方法都依赖于精心设计的数据增强管道，该数据无法转移，用于在其他域的图像上学习。在这项工作中，我们提出了一种半监督的学习方法，该方法自动为特定数据集选择了最有效的数据增强策略。我们以FixMatch方法为基础，并通过增强元学习扩展它。在分类培训之前，在额外的培训中学习了增强，并利用双层优化，以优化增强政策并最大程度地提高准确性。我们在两个特定领域的数据集上评估我们的方法，其中包含卫星图像和手绘草图，并获得最新的结果。我们在消融中进一步研究与学习增强策略相关的不同参数，并展示了如何使用策略学习将增强功能调整到ImageNet之外的数据集中。

用于视觉语言表示学习的变压器已经引起了很多兴趣，并在视觉问题答案（VQA）和接地方面表现出了巨大的表现。但是，大多数显示出良好性能的系统在培训过程中仍然依赖于预训练的对象探测器，这将其适用性限制在可用于这些检测器的对象类中。为了减轻这种限制，以下论文着重于在变形金刚中的视觉问题答案的背景下进行弱监督的基础问题。该方法通过将每个视觉令牌分组在视觉编码器中，并使用语言自我发项层作为文本引导选择模块来利用胶囊，以在将它们转发到下一层之前掩盖它们。我们评估了针对挑战的GQA以及VQA帽数据集的VQA接地的方法。我们的实验表明：在从标准变压器体系结构中删除蒙版对象的信息的同时，胶囊的集成显着提高了此类系统的接地能力，并提供了与其他新的最先进的结果。在现场接近。

TOP-K分类精度是机器学习中的核心指标之一。在这里，K是常规的积极整数，例如1或5，导致TOP-1或前5名培训目标。在这项工作中，我们放宽了此假设并同时优化多个k的模型，而不是使用单个k。利用最新的可区分分类和排名进步，我们提出了可区分的TOP-K跨膜片分类损失。这允许训练网络，同时不仅考虑了TOP-1预测，还可以考虑TOP-2和TOP-5预测。我们评估了针对最先进架构的微调以及从头开始培训的拟议损失功能。我们发现，放松K不仅会产生更好的前5个精度，还可以改善前1个精度。当微调公开可用的成像网模型时，我们为这些模型实现了新的最新技术。

尽管近年来行动认可取得了令人印象深刻的结果，但视频培训数据的收集和注释仍然很耗时和成本密集。因此，已经提出了图像到视频改编，以利用无标签的Web图像源来适应未标记的目标视频。这提出了两个主要挑战：（1）Web图像和视频帧之间的空间域移动； （2）图像和视频数据之间的模态差距。为了应对这些挑战，我们提出了自行车域的适应（CYCDA），这是一种基于周期的方法，用于通过在图像和视频中利用图像和视频中的联合空间信息来适应无监督的图像到视频域，另一方面，训练一个独立的时空模型，用于弥合模式差距。我们在每个周期中的两者之间的知识转移之间在空间和时空学习之间交替。我们在基准数据集上评估了图像到视频的方法，以及用于实现最新结果的混合源域的适应性，并证明了我们的循环适应性的好处。

来自视频数据的多模态学习最近看过，因为它允许在没有人为注释的情况下培训语义有意义的嵌入，从而使得零射击检索和分类等任务。在这项工作中，我们提出了一种多模态，模态无政府主义融合变压器方法，它学会在多个模态之间交换信息，例如视频，音频和文本，并将它们集成到加入的多模态表示中，以获取聚合的嵌入多模态时间信息。我们建议培训系统的组合丢失，单个模态以及成对的方式，明确地留出任何附加组件，如位置或模态编码。在测试时间时，产生的模型可以处理和融合任意数量的输入模态。此外，变压器的隐式属性允许处理不同长度的输入。为了评估所提出的方法，我们在大规模HOWASET上培训模型，并评估四个具有挑战性的基准数据集上产生的嵌入空间获得最先进的视频检索和零射击视频动作定位。

概括跨越不同视觉域的学习表现的能力，例如在真正的照片，剪贴画，绘画和草图之间是人类视觉系统的基本容量。在本文中，不同于利用一些（或全部）源域监控的大多数跨域工作，我们接近一个相对较新的，非常实用的无监督域泛化（UDG）设置在既不源也不在源域中没有培训监督。我们的方法是基于跨域（BRAD）的桥梁​​的自我监督学习 - 辅助桥域附有一组从每个训练域的Brad将视觉（图像到图像）映射保留的一组语义。 BRAD和MAPPAPAPPED（端到端）与对比的自我监督表示模型一起学习（端到端），其用语义对齐每个域将每个域对齐，因此隐含地驱动所有域（见或看不见）语义上彼此对齐。在这项工作中，我们展示了如何使用边缘正则化的布拉德，我们的方法在多个基准和一系列任务中实现了显着的增益，包括UDG，少量UDA和跨多个域数据集的无监督概括（包括指向未经看明域的概念和课程）。

多式化学习的任务最近看过越来越多的兴趣，因为它允许基于诸如视觉，文本和音频等不同的模态培训神经架构。培训此类模型的一个挑战是他们需要共同学习语义概念及其跨不同输入表示的关系。已经显示胶囊网络在捕获低级输入特征和更高级别概念之间的关系中表现良好。然而，由于传统路由算法的资源需求，载体到目前为止，目前仅用于小规模的完全监督设置。我们提出了一种新的多模胶囊网络，使我们能够利用大量视频数据的多模式学习框架的胶囊的强度。为了使胶囊适应大规模的输入数据，我们提出了一种通过自我关注机制提出一种新颖的路由，从而选择相关胶囊，然后选择用于产生最终关节多模峰特征表示的相关胶囊。这不仅允许使用嘈杂的视频数据的强大培训，而且还允许与传统的路由方法相比扩展胶囊网络的大小，同时仍在计算效率。我们通过在大规模的多模式视频数据集上预先预留并在两个具有挑战性的下游任务中将其应用于四个数据集来评估所提出的架构。结果表明，与其他路由技术相比，所提出的多模胶囊网络不仅能够改善结果，而且还实现了对多式化学习任务的竞争性能。

在本文中，我们探索从教学视频中学习的自我监督的视听模型。事先工作表明，这些模型可以在视频的大规模数据集训练后与视觉内容相关联，但它们仅在英语中进行培训和评估。为了学习多语言视听表示，我们提出了一种级联方法，它利用了在英语视频上培训的模型，并将其应用于其他语言的视听数据，例如日本视频。通过我们的级联方法，与日语视频培训相比，我们展示了近10倍的检索性能提高。我们还将培训的模型应用于英语视频培训到日语和印地文口语字幕的图像，实现最先进的性能。