Current methods for few-shot action recognition mainly fall into the metric learning framework following ProtoNet. However, they either ignore the effect of representative prototypes or fail to enhance the prototypes with multimodal information adequately. In this work, we propose a novel Multimodal Prototype-Enhanced Network (MORN) to use the semantic information of label texts as multimodal information to enhance prototypes, including two modality flows. A CLIP visual encoder is introduced in the visual flow, and visual prototypes are computed by the Temporal-Relational CrossTransformer (TRX) module. A frozen CLIP text encoder is introduced in the text flow, and a semantic-enhanced module is used to enhance text features. After inflating, text prototypes are obtained. The final multimodal prototypes are then computed by a multimodal prototype-enhanced module. Besides, there exist no evaluation metrics to evaluate the quality of prototypes. To the best of our knowledge, we are the first to propose a prototype evaluation metric called Prototype Similarity Difference (PRIDE), which is used to evaluate the performance of prototypes in discriminating different categories. We conduct extensive experiments on four popular datasets. MORN achieves state-of-the-art results on HMDB51, UCF101, Kinetics and SSv2. MORN also performs well on PRIDE, and we explore the correlation between PRIDE and accuracy.

很少有动作识别旨在仅使用少量标记的训练样本识别新型动作类别。在这项工作中，我们提出了一种新颖的方法，该方法首先将每个视频汇总到由一组全球原型和一组集中原型组成的复合原型中，然后比较基于原型的视频相似性。鼓励每个全局原型总结整个视频中的特定方面，例如动作的开始/演变。由于没有针对全球原型提供明确的注释，因此我们使用一组专注的原型专注于视频中的某些时间戳。我们通过匹配支持视频和查询视频之间的复合原型来比较视频相似性。例如，从相同的角度来比较视频，以比较两个动作是否同样开始。对于集中的原型，由于动作在视频中具有各种时间变化，因此我们采用两分匹配，以比较具有不同时间位置和偏移的动作。实验表明，我们提出的方法在多个基准上实现了最先进的结果。

最近，很少拍摄的视频分类已经获得了越来越令人利益。目前的方法主要集中在有效利用视频中的时间维度，以在低数据制度下改善学习。然而，大多数作品在很大程度上忽略了视频通常伴随着丰富的文本描述，也可以是处理少量拍摄识别情况的重要信息来源。在本文中，我们建议利用这些人提供的文本描述作为培训几次视频分类模型时的特权信息。具体来说，我们制定了一种基于文本的任务调节器，以使视频功能适应几次拍摄的学习任务。此外，我们的模型遵循转换设置，通过使用支持文本描述和查询实例来更新一组类原型来提高模型的任务适应能力。我们的模型在四个具有挑战性的基准测试中实现了最先进的性能，通常用于评估少量拍摄视频动作分类模型。

很少有动作识别旨在仅使用几个样本（支持）识别新颖的动作类（查询）。当前的大多数方法遵循公制学习范式，该范式学会比较视频之间的相似性。最近，已经观察到，直接测量这种相似性并不理想，因为不同的动作实例可能显示出独特的时间分布，从而导致查询和支持视频中严重的未对准问题。在本文中，我们从两个不同的方面释放了这个问题 - 行动持续时间的错位和动作演化错位。我们通过两阶段的动作对准网络（TA2N）顺序解决它们。第一阶段通过学习暂时的仿射变换来定位动作，该变换扭曲了每个视频功能的动作持续时间，同时否定了动作 - 欧元的功能（例如背景）。接下来，第二阶段协调查询功能通过执行时间重排和空间抵消预测来匹配支撑的时空动作演变。基准数据集上的广泛实验显示了该方法在实现最新性能方面的潜力，以获得几次动作识别。

我们提出了一种用于少量视频分类的新方法，该方法可以执行外观和时间对齐。特别是，给定一对查询和支持视频，我们通过框架级功能匹配进行外观对齐，以在视频之间达到外观相似性得分，同时利用时间订单保留的先验来获得视频之间的时间相似性得分。此外，我们介绍了一些视频分类框架，该框架利用了多个步骤的上述外观和时间相似性得分，即基于原型的训练和测试，以及电感和thresductive和转导的原型细化。据我们所知，我们的工作是第一个探索跨传感器的视频分类的工作。动力学和某些事物的V2数据集进行了广泛的实验表明，外观和时间对齐对于具有时间订单敏感性的数据集至关重要。我们的方法与两个数据集上的以前方法相似或更好的结果。我们的代码可在https://github.com/vinairesearch/fsvc-ata上找到。

最近，行动识别因其在智能监视和人为计算机互动方面的全面和实用应用而受到了越来越多的关注。但是，由于数据稀缺性，很少有射击动作识别并未得到充分的探索，并且仍然具有挑战性。在本文中，我们提出了一种新型的分层组成表示（HCR）学习方法，以进行几次识别。具体而言，我们通过精心设计的层次聚类将复杂的动作分为几个子行动，并将子动作进一步分解为更细粒度的空间注意力亚actions（SAS-Actions）。尽管基类和新颖类之间存在很大的差异，但它们可以在子行动或SAS行为中共享相似的模式。此外，我们在运输问题中采用了地球移动器的距离，以测量视频样本之间的相似性在亚行动表示方面。它计算为距离度量的子行动之间的最佳匹配流，这有利于比较细粒模式。广泛的实验表明，我们的方法在HMDB51，UCF101和动力学数据集上实现了最新结果。

在本文中，我们研究了基于骨架的动作识别的问题，该问题在学习从基础阶级到新颖类的可转移表示方面构成了独特的挑战，尤其是针对细粒度的动作。现有的元学习框架通常依赖于空间维度中的身体级表示，这限制了概括以捕获细粒标签空间中细微的视觉差异。为了克服上述局限性，我们提出了一种基于单发骨架的动作识别的部分感知的原型代表。我们的方法捕获了两个独特的空间级别的骨架运动模式，一种用于所有身体关节的全球环境，称为身体水平，另一个则参与了身体部位的局部空间区域，称为零件水平。我们还设计了一种类不足的注意机制，以突出每个动作类别的重要部分。具体而言，我们开发了一个由三个模块组成的零件感知原型图网络：我们的双层建模的级联嵌入模块，一个基于注意力的零件融合模块，用于融合零件并生成零件感知的原型，以及可以执行匹配的模块。与部分意识表示的分类。我们证明了我们方法对两个基于公共骨架的动作识别数据集的有效性：NTU RGB+D 120和NW-UCLA。

利用在大规模图像文本对中预先训练的视觉和语言模型（VLM）成为开放式视觉识别的有希望的范式。在这项工作中，我们通过利用视频中自然存在的运动和音频来扩展这种范式。我们提出\ textbf {mov}，这是\ textbf {m} ult-imodal \ textbf {o} pen- \ textbf {v} ocabulary视频分类的简单而有效的方法。在MOV中，我们直接使用具有最小修改的预训练VLM的视觉编码器来编码视频，光流和音频频谱图。我们设计一种跨模式融合机制来汇总免费的多模式信息。 Kinetics-700和VGGSOUND的实验表明，引入流量或音频模态会带来预先训练的VLM和现有方法的大量性能增长。具体而言，MOV极大地提高了基础类别的准确性，而在新颖的课程上则更好地概括了。 MOV在UCF和HMDB零摄像视频分类基准上实现了最新结果，从而极大地超过了基于VLMS的传统零摄像方法和最新方法。代码和模型将发布。

Video recognition in an open and dynamic world is quite challenging, as we need to handle different settings such as close-set, long-tail, few-shot and open-set. By leveraging semantic knowledge from noisy text descriptions crawled from the Internet, we focus on the general video recognition (GVR) problem of solving different recognition tasks within a unified framework. The core contribution of this paper is twofold. First, we build a comprehensive video recognition benchmark of Kinetics-GVR, including four sub-task datasets to cover the mentioned settings. To facilitate the research of GVR, we propose to utilize external textual knowledge from the Internet and provide multi-source text descriptions for all action classes. Second, inspired by the flexibility of language representation, we present a unified visual-linguistic framework (VLG) to solve the problem of GVR by an effective two-stage training paradigm. Our VLG is first pre-trained on video and language datasets to learn a shared feature space, and then devises a flexible bi-modal attention head to collaborate high-level semantic concepts under different settings. Extensive results show that our VLG obtains the state-of-the-art performance under four settings. The superior performance demonstrates the effectiveness and generalization ability of our proposed framework. We hope our work makes a step towards the general video recognition and could serve as a baseline for future research. The code and models will be available at https://github.com/MCG-NJU/VLG.

我们提出STAF，一种用于几次视频分类的时空关注融合网络。STAF首先通过应用3D卷积神经网络嵌入网络来提取视频的粗粒度的空间和时间特征。然后使用自我关注和跨关注网络微调提取的特征。最后，STAF应用轻量级融合网络和最近的邻邻分类器来分类每个查询视频。为了评估STAF，我们在三个基准（UCF101，HMDB51和SomeS-V2）上进行广泛的实验。实验结果表明，STAF通过大边缘提高了最先进的准确性，例如，STAF分别将五向单拍精度增加5.3％和7.0％，分别为UCF101和HMDB51增加。

对比性语言图像预测在学习网络尺度数据的视觉文本联合表示方面取得了巨大的成功，这表明了各种图像任务的显着“零射”概括能力。但是，如何有效地将这种新的语言图像预处理方法扩展到视频域仍然是一个开放的问题。在这项工作中，我们提出了一种简单而有效的方法，该方法将预验证的语言图像模型直接适应视频识别，而不是从头开始预处理新模型。更具体地说，为了捕获沿时间维度框架的远距离依赖性，我们提出了一种跨框架注意机制，该机制明确地跨帧交换信息。这样的模块是轻量级的，可以无缝地插入验证的语言图像模型中。此外，我们提出了一个特定于视频的提示方案，该方案利用视频内容信息生成歧视性文本提示。广泛的实验表明，我们的方法是有效的，可以推广到不同的视频识别方案。特别是，在完全监督的设置下，我们的方法在Kinectics-400上获得了最高1的精度为87.1％，而与SWIN-L和Vivit-H相比，使用量少12倍。在零拍摄的实验中，我们的方法超过了当前的最新方法 +7.6％和 +14.9％，而在两个流行协议下，TOP-1的准确性。在少数拍摄的情况下，当标记的数据非常有限时，我们的方法优于先前的最佳方法 +32.1％和 +23.1％。代码和型号可在https://aka.ms/x-clip上找到

Few-shot (FS) and zero-shot (ZS) learning are two different approaches for scaling temporal action detection (TAD) to new classes. The former adapts a pretrained vision model to a new task represented by as few as a single video per class, whilst the latter requires no training examples by exploiting a semantic description of the new class. In this work, we introduce a new multi-modality few-shot (MMFS) TAD problem, which can be considered as a marriage of FS-TAD and ZS-TAD by leveraging few-shot support videos and new class names jointly. To tackle this problem, we further introduce a novel MUlti-modality PromPt mETa-learning (MUPPET) method. This is enabled by efficiently bridging pretrained vision and language models whilst maximally reusing already learned capacity. Concretely, we construct multi-modal prompts by mapping support videos into the textual token space of a vision-language model using a meta-learned adapter-equipped visual semantics tokenizer. To tackle large intra-class variation, we further design a query feature regulation scheme. Extensive experiments on ActivityNetv1.3 and THUMOS14 demonstrate that our MUPPET outperforms state-of-the-art alternative methods, often by a large margin. We also show that our MUPPET can be easily extended to tackle the few-shot object detection problem and again achieves the state-of-the-art performance on MS-COCO dataset. The code will be available in https://github.com/sauradip/MUPPET

我们提出了一种新颖的少量射击动作识别框架，它增强了特定于类特征的特征歧视性，同时学习高阶时间表示。我们的方法的重点是一种新的时空浓缩模块，可以使用专用的本地补丁级别和全局帧级别富集子模块聚合空间和时间上下文。本地补丁级别的浓缩捕获了基于外观的动作特征。另一方面，全局帧级富集明确地编码了广泛的时间上下文，从而随着时间的推移捕获相关对象特征。然后利用产生的时空富集的表示来学习查询和支持动作子序列之间的关系匹配。我们在补丁级丰富的功能上进一步引入了查询类相似性分类器，通过在所提出的框架中加强特征学习来增强特定于类的特征歧视性。实验是在四次拍摄动作识别基准测试中执行：动力学，SSV2，HMDB51和UCF101。我们广泛的消融研究揭示了拟议贡献的好处。此外，我们的方法在所有四个基准上设置了一种新的最先进的。在挑战SSV2基准测试中，与文献中的最佳现有方法相比，我们的方法在分类准确性中实现了3.5％的绝对增益。我们的代码和型号将公开发布。

Although significant progress has been made in few-shot learning, most of existing few-shot learning methods require supervised pre-training on a large amount of samples of base classes, which limits their generalization ability in real world application. Recently, large-scale self-supervised vision-language models (e.g., CLIP) have provided a new paradigm for transferable visual representation learning. However, the pre-trained VLPs may neglect detailed visual information that is difficult to describe by language sentences, but important for learning an effective classifier in few-shot classification. To address the above problem, we propose a new framework, named Semantic-guided Visual Adapting (SgVA), which can effectively extend vision-language pre-trained models to produce discriminative task-specific visual features by comprehensively using a vision-specific contrastive loss, a cross-modal contrastive loss, and an implicit knowledge distillation. The implicit knowledge distillation is designed to transfer the fine-grained cross-modal knowledge to guide the updating of the vision adapter. State-of-the-art results on 13 datasets demonstrate that the adapted visual features can well complement the cross-modal features to improve few-shot image classification.

从有限的数据学习是一个具有挑战性的任务，因为数据的稀缺导致训练型模型的较差。经典的全局汇总表示可能会失去有用的本地信息。最近，许多射击学习方法通​​过使用深度描述符和学习像素级度量来解决这一挑战。但是，使用深描述符作为特征表示可能丢失图像的上下文信息。这些方法中的大多数方法独立地处理支持集中的每个类，这不能充分利用鉴别性信息和特定于特定的嵌入。在本文中，我们提出了一种名为稀疏空间变压器（SSFormers）的新型变压器的神经网络架构，可以找到任务相关的功能并抑制任务无关的功能。具体地，我们首先将每个输入图像划分为不同大小的几个图像斑块，以获得密集的局部特征。这些功能在表达本地信息时保留上下文信息。然后，提出了一种稀疏的空间变压器层以在查询图像和整个支持集之间找到空间对应关系，以选择任务相关的图像斑块并抑制任务 - 无关的图像斑块。最后，我们建议使用图像补丁匹配模块来计算密集的本地表示之间的距离，从而确定查询图像属于支持集中的哪个类别。广泛的少量学习基准测试表明，我们的方法实现了最先进的性能。

Few Shot Instance Segmentation (FSIS) requires models to detect and segment novel classes with limited several support examples. In this work, we explore a simple yet unified solution for FSIS as well as its incremental variants, and introduce a new framework named Reference Twice (RefT) to fully explore the relationship between support/query features based on a Transformer-like framework. Our key insights are two folds: Firstly, with the aid of support masks, we can generate dynamic class centers more appropriately to re-weight query features. Secondly, we find that support object queries have already encoded key factors after base training. In this way, the query features can be enhanced twice from two aspects, i.e., feature-level and instance-level. In particular, we firstly design a mask-based dynamic weighting module to enhance support features and then propose to link object queries for better calibration via cross-attention. After the above steps, the novel classes can be improved significantly over our strong baseline. Additionally, our new framework can be easily extended to incremental FSIS with minor modification. When benchmarking results on the COCO dataset for FSIS, gFSIS, and iFSIS settings, our method achieves a competitive performance compared to existing approaches across different shots, e.g., we boost nAP by noticeable +8.2/+9.4 over the current state-of-the-art FSIS method for 10/30-shot. We further demonstrate the superiority of our approach on Few Shot Object Detection. Code and model will be available.

很少有视觉识别是指从一些标记实例中识别新颖的视觉概念。通过将查询表示形式与类表征进行比较以预测查询实例的类别，许多少数射击的视觉识别方法采用了基于公制的元学习范式。但是，当前基于度量的方法通常平等地对待所有实例，因此通常会获得有偏见的类表示，考虑到并非所有实例在总结了类级表示的实例级表示时都同样重要。例如，某些实例可能包含无代表性的信息，例如过多的背景和无关概念的信息，这使结果偏差。为了解决上述问题，我们提出了一个新型的基于公制的元学习框架，称为实例自适应类别表示网络（ICRL-net），以进行几次视觉识别。具体而言，我们开发了一个自适应实例重新平衡网络，具有在生成班级表示，通过学习和分配自适应权重的不同实例中的自适应权重时，根据其在相应类的支持集中的相对意义来解决偏见的表示问题。此外，我们设计了改进的双线性实例表示，并结合了两个新型的结构损失，即，阶层内实例聚类损失和阶层间表示区分损失，以进一步调节实例重估过程并完善类表示。我们对四个通常采用的几个基准测试：Miniimagenet，Tieredimagenet，Cifar-FS和FC100数据集进行了广泛的实验。与最先进的方法相比，实验结果证明了我们的ICRL-NET的优势。

少量学习（FSL）是一个具有挑战性的任务，\ emph {i.e.}，如何用少数例子识别新颖的类？基于预先训练的方法通过预先训练特征提取器，然后通过具有基于均值的原型的余弦最近邻分类来预测新颖类来有效地解决问题。然而，由于数据稀缺，通常的平均原型通常偏置。在本文中，我们试图通过将原型偏差视为原型优化问题来减少原型偏差。为此，我们提出了一种新颖的基于元学习的原型优化框架来纠正原型，\ emph {i.}，引入元优化器以优化原型。虽然现有的元优化器也可以适应我们的框架，但它们都忽略了一个关键的梯度偏置问题，\ emph {i.}，均值的梯度估计也偏置在稀疏数据上。为了解决这个问题，我们将梯度及其流量视为元知识，然后提出一种新的神经常规差分方程（ODE）基础的元优化器，以抛光原型，称为Metanode。在此元优化器中，我们首先将基于平均原型的原型视图为初始原型，然后将原型优化的过程模拟为神经竞争指定的连续时间动态。仔细设计梯度流动推理网络，学习估计原型动态的连续梯度流。最后，通过求解神经焦点，可以获得最佳原型。对Miniimagenet，Tieredimagenet和Cub-200-2011的广泛实验显示了我们方法的有效性。

几次视频分类的目标是在仅用少数标记的视频训练时学习具有良好概率能力的分类模型。但是，很难在这样的环境中学习视频的判别特征表示。在本文中，我们基于序列相似度学习对几次拍摄视频分类提出时间对准预测（Tap）。为了获得一对视频的相似性，我们预测具有时间对准预测功能的两个视频中的所有时间位置对的对准分数。此外，此功能的输入还配备了时间域中的上下文信息。我们评估在两个视频分类基准上的点击，包括动力学和某事物V2。实验结果验证了龙头的有效性，并显示出其优于最先进的方法。

教学机器根据少数训练样本认识到一个新的类别，特别是由于缺乏数据缺乏的新型类别的难题了解，只有一个仍然挑战。然而，人类可以快速学习新课程，甚至在人类可以讲述基于视觉和语义先前知识的关于每个类别的歧视特征时，甚至给出了一些样本。为了更好地利用这些先验知识，我们提出了语义引导的注意力（SEGA）机制，其中语义知识用于以自上而下的方式引导视觉感知，在区分类别时应注意哪些视觉特征。结果，即使少量样品也可以更具判别嵌入新类。具体地，借助从基类传输可视化的先验知识，接受了一个特征提取器，以培训以将每个小组类的数量的每个小组的图像嵌入到视觉原型中。然后，我们学习一个网络将语义知识映射到特定于类别的注意力矢量，该向量将用于执行功能选择以增强视觉原型。在Miniimagenet，Tieredimagenet，CiFar-FS和Cub上进行了广泛的实验表明，我们的语义引导的注意力实现了预期的功能和优于最先进的结果。