少量学习（FSL）旨在解决数据稀缺问题。标准FSL框架由两个组件组成：（1）预先火车。采用基础数据以生成基于CNN的特征提取模型（FEM）。 （2）元测试。应用训练有素的有限元素以获取新的数据的特征并识别它们。 FSL严重依赖于FEM的设计。然而，各种有限元有明显的重点。例如，若干可以更关注轮廓信息，而其他人可以特别强调纹理信息。单个头功能只是样本的单面表示。除了跨域的负影响（例如，训练有素的有限元件无瑕疵地适应新颖的类），与地面真理分布相比，新型数据的分布可能具有一定程度的偏差，如分配转移 - 问题（DSP）。为了解决DSP，我们提出了多头功能协作（MHFC）算法，该算法试图将多头特征（例如，从各种FEM中提取的多个功能）投影到统一空间并融合它们以捕获更多辨别信息。通常，首先，我们介绍子空间学习方法来转换多头特征以对准低维表示。它通过学习具有更强大的歧视的功能来纠正DSP，并克服了来自不同头部特征的不一致测量尺度的问题。然后，我们设计注意力块以自动更新每个头部功能的组合权重。它全面考虑各种观点的贡献，进一步提高了特征的歧视。我们评估了五个基准数据集（包括跨域实验）的提出方法，与最先进的情况下实现了2.1％-7.8％的显着改善。

近年来，研究人员越来越关注几次拍摄学习（FSL）任务，以解决数据稀缺问题。标准FSL框架由两个组件组成：i）预先列车。采用基础数据以生成基于CNN的特征提取模型（FEM）。 ii）Meta-Test。将培训的有关应用于新颖的数据（类别与基本数据不同）以获取特征嵌入物并识别它们。虽然研究人员在FSL中取得了显着突破，但仍然存在根本问题。由于具有基础数据的训练有素的有限元通常不能完美地适应新颖的类，因此新的数据的特征可能导致分布换档问题。为了解决这一挑战，我们假设即使基于不同FEMS的大多数决策被视为\ Texit {弱决策}，它们也不适用于所有类别，它们仍然在某些特定类别中仍然变得恰到貌。灵感来自这种假设，我们提出了一种新颖的方法多决定定影模型（MDFM），其基于多个FEMS全面地考虑了模拟的决策，以提高模型的功效和鲁棒性。 MDFM是一种简单，灵活的非参数方法，可直接适用于现有的FEM。此外，我们将所提出的MDFM扩展到两个FSL设置（即，监督和半监督设置）。我们在五个基准数据集中评估所提出的方法，与最先进的3.4％-7.3 \％的显着改善。

很少有视觉识别是指从一些标记实例中识别新颖的视觉概念。通过将查询表示形式与类表征进行比较以预测查询实例的类别，许多少数射击的视觉识别方法采用了基于公制的元学习范式。但是，当前基于度量的方法通常平等地对待所有实例，因此通常会获得有偏见的类表示，考虑到并非所有实例在总结了类级表示的实例级表示时都同样重要。例如，某些实例可能包含无代表性的信息，例如过多的背景和无关概念的信息，这使结果偏差。为了解决上述问题，我们提出了一个新型的基于公制的元学习框架，称为实例自适应类别表示网络（ICRL-net），以进行几次视觉识别。具体而言，我们开发了一个自适应实例重新平衡网络，具有在生成班级表示，通过学习和分配自适应权重的不同实例中的自适应权重时，根据其在相应类的支持集中的相对意义来解决偏见的表示问题。此外，我们设计了改进的双线性实例表示，并结合了两个新型的结构损失，即，阶层内实例聚类损失和阶层间表示区分损失，以进一步调节实例重估过程并完善类表示。我们对四个通常采用的几个基准测试：Miniimagenet，Tieredimagenet，Cifar-FS和FC100数据集进行了广泛的实验。与最先进的方法相比，实验结果证明了我们的ICRL-NET的优势。

元学习已成为几乎没有图像分类的实用方法，在该方法中，“学习分类器的策略”是在标记的基础类别上进行元学习的，并且可以应用于具有新颖类的任务。我们删除了基类标签的要求，并通过无监督的元学习（UML）学习可通用的嵌入。具体而言，任务发作是在元训练过程中使用未标记的基本类别的数据增强构建的，并且我们将基于嵌入式的分类器应用于新的任务，并在元测试期间使用标记的少量示例。我们观察到两个元素在UML中扮演着重要角色，即进行样本任务和衡量实例之间的相似性的方法。因此，我们获得了具有两个简单修改的​​强基线 - 一个足够的采样策略，每情节有效地构建多个任务以及半分解的相似性。然后，我们利用来自两个方向的任务特征以获得进一步的改进。首先，合成的混淆实例被合并以帮助提取更多的判别嵌入。其次，我们利用额外的特定任务嵌入转换作为元训练期间的辅助组件，以促进预先适应的嵌入式的概括能力。几乎没有学习基准的实验证明，我们的方法比以前的UML方法优于先前的UML方法，并且比其监督变体获得了可比甚至更好的性能。

半监督的几次学习在于培训分类器以适应有限的标记数据和固定数量未标记的数据的新任务。已经开发了许多复杂的方法来解决该问题所包含的挑战。在本文中，我们提出了一种简单但相当有效的方法，可以从间接学习的角度预测未标记数据的准确伪标记，然后增强在几个拍摄分类任务中设置的极其标签受限的支持。我们的方法只能通过仅使用现成的操作来仅在几行代码中实现，但是它能够在四个基准数据集上超越最先进的方法。

少量学习，特别是几秒钟的图像分类，近年来受到了越来越多的关注，并目睹了重大进展。最近的一些研究暗示表明，许多通用技术或“诀窍”，如数据增强，预训练，知识蒸馏和自我监督，可能大大提高了几次学习方法的性能。此外，不同的作品可以采用不同的软件平台，不同的训练计划，不同的骨干架构以及甚至不同的输入图像大小，使得公平的比较困难，从业者与再现性斗争。为了解决这些情况，通过在Pytorch中的同一单个代码库中重新实施17个最新的框架，提出了几次射门学习（Libfewshot）的全面图书馆。此外，基于libfewshot，我们提供多个基准数据集的全面评估，其中包含多个骨干架构，以评估不同培训技巧的常见缺陷和效果。此外，鉴于近期对必要性或未培训机制的必要性怀疑，我们的评估结果表明，特别是当与预训练相结合时，仍然需要这种机制。我们希望我们的工作不仅可以降低初学者的障碍，可以在几次学习上工作，而且还消除了非动力技巧的影响，促进了几枪学习的内在研究。源代码可从https://github.com/rl-vig/libfewshot获取。

少量分类需要调整从大型注释的基础数据集中学到的知识来识别新颖的看不见的类，每个类别由少数标记的示例表示。在这样的场景中，预先绘制大容量在大型数据集上的网络，然后在少数示例下向少量抵消导致严重的过度拟合。同时，在从大型标记数据集中学到的“冷冻”特征的顶部培训一个简单的线性分类器无法使模型调整到新型类的属性，有效地诱导底部。在本文中，我们向这两种流行的策略提出了一种替代方法。首先，我们的方法使用在新颖类上培训的线性分类器来伪标签整个大型数据集。这有效地“幻觉”在大型数据集中的新型类别，尽管基本数据库中未存在的新类别（新颖和基类是不相交的）。然后，除了在新型数据集上的标准交叉熵损失之外，它将在伪标记的基础示例上具有蒸馏损失的整个模型。这一步骤有效地训练了网络，识别对新型类别识别的上下文和外观提示，而是使用整个大规模基础数据集，从而克服了几次拍摄学习的固有数据稀缺问题。尽管这种方法的简单性，但我们表明我们的方法在四个成熟的少量分类基准上表现出最先进的。

大多数现有的工作在几次学习中，依赖于Meta-Learning网络在大型基础数据集上，该网络通常是与目标数据集相同的域。我们解决了跨域几秒钟的问题，其中基础和目标域之间存在大移位。与未标记的目标数据的跨域几秒识别问题在很大程度上在文献中毫无根据。启动是使用自我训练解决此问题的第一个方法。但是，它使用固定的老师在标记的基础数据集上返回，以为未标记的目标样本创建软标签。由于基本数据集和未标记的数据集来自不同的域，因此将基本数据集的类域中的目标图像投影，具有固定的预制模型可能是子最优的。我们提出了一种简单的动态蒸馏基方法，以方便来自新颖/基础数据集的未标记图像。我们通过从教师网络中的未标记图像的未标记版本的预测计算并将其与来自学生网络相同的相同图像的强大版本匹配来施加一致性正常化。教师网络的参数被更新为学生网络参数的指数移动平均值。我们表明所提出的网络了解可以轻松适应目标域的表示，即使它尚未在预先预测阶段的目标专用类别训练。我们的车型优于当前最先进的方法，在BSCD-FSL基准中的5次分类，3.6％的3.6％，并在传统的域名几枪学习任务中显示出竞争性能。

很少有射击分类旨在学习一个模型，该模型只有几个标签样本可用，可以很好地推广到新任务。为了利用在实际应用中更丰富的未标记数据，Ren等人。 \ shortcite {ren2018meta}提出了一种半监督的少数射击分类方法，该方法通过手动定义的度量标记为每个未标记的样本分配了适当的标签。但是，手动定义的度量未能捕获数据中的内在属性。在本文中，我们提出了a \ textbf {s} elf- \ textbf {a} daptive \ textbf {l} abel \ textbf {a} u摄孔方法，称为\ textbf {sala}，用于半精神分裂的几个分类。萨拉（Sala）的主要新颖性是任务自适应指标，可以以端到端的方式适应不同任务的指标。萨拉（Sala）的另一个吸引人的特征是一种进步的邻居选择策略，该策略在整个训练阶段逐渐逐渐信心选择未标记的数据。实验表明，SALA优于在基准数据集上半监督的几种射击分类的几种最新方法。

从有限的数据学习是一个具有挑战性的任务，因为数据的稀缺导致训练型模型的较差。经典的全局汇总表示可能会失去有用的本地信息。最近，许多射击学习方法通​​过使用深度描述符和学习像素级度量来解决这一挑战。但是，使用深描述符作为特征表示可能丢失图像的上下文信息。这些方法中的大多数方法独立地处理支持集中的每个类，这不能充分利用鉴别性信息和特定于特定的嵌入。在本文中，我们提出了一种名为稀疏空间变压器（SSFormers）的新型变压器的神经网络架构，可以找到任务相关的功能并抑制任务无关的功能。具体地，我们首先将每个输入图像划分为不同大小的几个图像斑块，以获得密集的局部特征。这些功能在表达本地信息时保留上下文信息。然后，提出了一种稀疏的空间变压器层以在查询图像和整个支持集之间找到空间对应关系，以选择任务相关的图像斑块并抑制任务 - 无关的图像斑块。最后，我们建议使用图像补丁匹配模块来计算密集的本地表示之间的距离，从而确定查询图像属于支持集中的哪个类别。广泛的少量学习基准测试表明，我们的方法实现了最先进的性能。

很少有图像分类是一个具有挑战性的问题，旨在仅基于少量培训图像来达到人类的识别水平。少数图像分类的一种主要解决方案是深度度量学习。这些方法是，通过将看不见的样本根据距离的距离进行分类，可在强大的深神经网络中学到的嵌入空间中看到的样品，可以避免以少数图像分类的少数训练图像过度拟合，并实现了最新的图像表现。在本文中，我们提供了对深度度量学习方法的最新审查，以进行2018年至2022年的少量图像分类，并根据度量学习的三个阶段将它们分为三组，即学习功能嵌入，学习课堂表示和学习距离措施。通过这种分类法，我们确定了他们面临的不同方法和问题的新颖性。我们通过讨论当前的挑战和未来趋势进行了少量图像分类的讨论。

传统的细颗粒图像分类通常依赖于带注释的地面真相的大规模训练样本。但是，某些子类别在实际应用中可能几乎没有可用的样本。在本文中，我们建议使用多频邻域（MFN）和双交叉调制（DCM）提出一个新颖的几弹性细颗粒图像分类网络（FICNET）。采用模块MFN来捕获空间域和频域中的信息。然后，提取自相似性和多频成分以产生多频结构表示。 DCM使用分别考虑全球环境信息和类别之间的微妙关系来调节嵌入过程。针对两个少量任务的三个细粒基准数据集进行的综合实验验证了FICNET与最先进的方法相比具有出色的性能。特别是，在两个数据集“ Caltech-UCSD鸟”和“ Stanford Cars”上进行的实验分别可以获得分类精度93.17 \％和95.36 \％。它们甚至高于一般的细粒图像分类方法可以实现的。

很少有射击学习（FSL）由于其在模型训练中的能力而无需过多的数据而引起了计算机视觉的越来越多的关注。 FSL具有挑战性，因为培训和测试类别（基础与新颖集）可能会在很大程度上多样化。传统的基于转移的解决方案旨在将从大型培训集中学到的知识转移到目标测试集中是有限的，因为任务分配转移的关键不利影响没有充分解决。在本文中，我们通过结合度量学习和通道注意的概念扩展了基于转移方法的解决方案。为了更好地利用特征主链提取的特征表示，我们提出了特定于类的通道注意（CSCA）模块，该模块通过分配每个类别的CSCA权重向量来学会突出显示每个类中的判别通道。与旨在学习全球班级功能的一般注意力模块不同，CSCA模块旨在通过非常有效的计算来学习本地和特定的特定功能。我们评估了CSCA模块在标准基准测试中的性能，包括Miniimagenet，Cifar-imagenet，Cifar-FS和Cub-200-200-2011。实验在电感和/跨域设置中进行。我们取得了新的最新结果。

The focus of recent meta-learning research has been on the development of learning algorithms that can quickly adapt to test time tasks with limited data and low computational cost. Few-shot learning is widely used as one of the standard benchmarks in meta-learning. In this work, we show that a simple baseline: learning a supervised or selfsupervised representation on the meta-training set, followed by training a linear classifier on top of this representation, outperforms state-of-the-art few-shot learning methods. An additional boost can be achieved through the use of selfdistillation. This demonstrates that using a good learned embedding model can be more effective than sophisticated meta-learning algorithms. We believe that our findings motivate a rethinking of few-shot image classification benchmarks and the associated role of meta-learning algorithms.

在这项工作中，我们建议使用分布式样本，即来自目标类别外部的未标记样本，以改善几乎没有记录的学习。具体而言，我们利用易于可用的分布样品来驱动分类器，以避免通过最大化原型到分布样品的距离，同时最大程度地减少分布样品的距离（即支持，查询数据），以避免使用分类器。。我们的方法易于实施，不可知论的是提取器，轻量级，而没有任何额外的预训练费用，并且适用于归纳和跨传输设置。对各种标准基准测试的广泛实验表明，所提出的方法始终提高具有不同架构的预审计网络的性能。

Few-shot learning aims to fast adapt a deep model from a few examples. While pre-training and meta-training can create deep models powerful for few-shot generalization, we find that pre-training and meta-training focuses respectively on cross-domain transferability and cross-task transferability, which restricts their data efficiency in the entangled settings of domain shift and task shift. We thus propose the Omni-Training framework to seamlessly bridge pre-training and meta-training for data-efficient few-shot learning. Our first contribution is a tri-flow Omni-Net architecture. Besides the joint representation flow, Omni-Net introduces two parallel flows for pre-training and meta-training, responsible for improving domain transferability and task transferability respectively. Omni-Net further coordinates the parallel flows by routing their representations via the joint-flow, enabling knowledge transfer across flows. Our second contribution is the Omni-Loss, which introduces a self-distillation strategy separately on the pre-training and meta-training objectives for boosting knowledge transfer throughout different training stages. Omni-Training is a general framework to accommodate many existing algorithms. Evaluations justify that our single framework consistently and clearly outperforms the individual state-of-the-art methods on both cross-task and cross-domain settings in a variety of classification, regression and reinforcement learning problems.

模型不合时宜的元学习（MAML）是一种著名的少数学习方法，它启发了许多后续工作，例如Anil和Boil。但是，作为一种归纳方法，MAML无法完全利用查询集的信息，从而限制了其获得更高通用性的潜力。为了解决这个问题，我们提出了一种简单而有效的方法，该方法可以适应性地生成伪标记，并可以提高MAML家族的性能。所提出的方法，被称为生成伪标签的MAML（GP-MAML），GP-Anil和GP-Boil，是查询的杠杆统计数据，以提高新任务的性能。具体而言，我们自适应地添加伪标签并从查询集中挑选样品，然后使用挑选的查询样品和支持集对模型进行重新训练。 GP系列还可以使用伪查询集中的信息在元测试过程中重新培训网络。尽管某些转导方法（例如跨传播网络（TPN））努力实现这一目标。

大多数现有的少量学习（FSL）方法都需要大量的元训练中标记数据，这是一个主要限制。为了减少标签的需求，已经为FSL提出了半监督的元训练设置，其中仅包括几个标记的样品和基础类别中的未标记样本数量。但是，此设置下的现有方法需要从未标记的集合中选择类吸引的样本选择，这违反了未标记集的假设。在本文中，我们提出了一个实用的半监督元训练环境，并使用真正的未标记数据。在新设置下，现有方法的性能显着下降。为了更好地利用标签和真正未标记的数据，我们提出了一个简单有效的元训练框架，称为基于元学习（PLML）的伪标记。首先，我们通过常见的半监督学习（SSL）训练分类器，并使用它来获取未标记数据的伪标记。然后，我们从标记和伪标记的数据中构建了几个射击任务，并在构造的任务上运行元学习以学习FSL模型。令人惊讶的是，通过在两个FSL数据集的广泛实验中，我们发现这个简单的元训练框架有效地防止了在有限的标记数据下FSL的性能降解。此外，从元培训中受益，提出的方法还改善了两种代表性SSL算法所学的分类器。

Given sufficient training data on the source domain, cross-domain few-shot learning (CD-FSL) aims at recognizing new classes with a small number of labeled examples on the target domain. The key to addressing CD-FSL is to narrow the domain gap and transferring knowledge of a network trained on the source domain to the target domain. To help knowledge transfer, this paper introduces an intermediate domain generated by mixing images in the source and the target domain. Specifically, to generate the optimal intermediate domain for different target data, we propose a novel target guided dynamic mixup (TGDM) framework that leverages the target data to guide the generation of mixed images via dynamic mixup. The proposed TGDM framework contains a Mixup-3T network for learning classifiers and a dynamic ratio generation network (DRGN) for learning the optimal mix ratio. To better transfer the knowledge, the proposed Mixup-3T network contains three branches with shared parameters for classifying classes in the source domain, target domain, and intermediate domain. To generate the optimal intermediate domain, the DRGN learns to generate an optimal mix ratio according to the performance on auxiliary target data. Then, the whole TGDM framework is trained via bi-level meta-learning so that TGDM can rectify itself to achieve optimal performance on target data. Extensive experimental results on several benchmark datasets verify the effectiveness of our method.

Learning with limited data is a key challenge for visual recognition. Many few-shot learning methods address this challenge by learning an instance embedding function from seen classes and apply the function to instances from unseen classes with limited labels. This style of transfer learning is task-agnostic: the embedding function is not learned optimally discriminative with respect to the unseen classes, where discerning among them leads to the target task. In this paper, we propose a novel approach to adapt the instance embeddings to the target classification task with a set-to-set function, yielding embeddings that are task-specific and are discriminative. We empirically investigated various instantiations of such set-to-set functions and observed the Transformer is most effective -as it naturally satisfies key properties of our desired model. We denote this model as FEAT (few-shot embedding adaptation w/ Transformer) and validate it on both the standard few-shot classification benchmark and four extended few-shot learning settings with essential use cases, i.e., cross-domain, transductive, generalized few-shot learning, and low-shot learning. It archived consistent improvements over baseline models as well as previous methods, and established the new stateof-the-art results on two benchmarks.