如果没有巨大的数据集，许多现代的深度学习技术就无法正常工作。同时，几个领域要求使用稀缺数据的方法。当样本具有变化的结构时，此问题甚至更为复杂。图表示学习技术最近已证明在各种领域中都成功。然而，当面对数据稀缺时，就业的体系结构表现不佳。另一方面，很少的学习允许在稀缺的数据制度中采用现代深度学习模型，而不会放弃其有效性。在这项工作中，我们解决了几乎没有图形分类的问题，这表明将简单的距离度量学习基线配备了最新的图形嵌入式嵌入者，可以在任务上获得竞争性结果。虽然体系结构的简单性足以超越更复杂的功能，它还可以直接添加。为此，我们表明可以通过鼓励任务条件的嵌入空间来获得其他改进。最后，我们提出了一种基于混合的在线数据增强技术，该技术在潜在空间中起作用，并显示其对任务的有效性。

很少有图像分类是一个具有挑战性的问题，旨在仅基于少量培训图像来达到人类的识别水平。少数图像分类的一种主要解决方案是深度度量学习。这些方法是，通过将看不见的样本根据距离的距离进行分类，可在强大的深神经网络中学到的嵌入空间中看到的样品，可以避免以少数图像分类的少数训练图像过度拟合，并实现了最新的图像表现。在本文中，我们提供了对深度度量学习方法的最新审查，以进行2018年至2022年的少量图像分类，并根据度量学习的三个阶段将它们分为三组，即学习功能嵌入，学习课堂表示和学习距离措施。通过这种分类法，我们确定了他们面临的不同方法和问题的新颖性。我们通过讨论当前的挑战和未来趋势进行了少量图像分类的讨论。

We propose prototypical networks for the problem of few-shot classification, where a classifier must generalize to new classes not seen in the training set, given only a small number of examples of each new class. Prototypical networks learn a metric space in which classification can be performed by computing distances to prototype representations of each class. Compared to recent approaches for few-shot learning, they reflect a simpler inductive bias that is beneficial in this limited-data regime, and achieve excellent results. We provide an analysis showing that some simple design decisions can yield substantial improvements over recent approaches involving complicated architectural choices and meta-learning. We further extend prototypical networks to zero-shot learning and achieve state-of-theart results on the CU-Birds dataset.

逐步学习新课程的能力对于所有现实世界的人工智能系统至关重要。像社交媒体，推荐系统，电子商务平台等的大部分高冲击应用都可以由图形模型表示。在本文中，我们调查了挑战但实际问题，图表几次拍摄的类增量（图形FCL）问题，其中图形模型是任务，以对新遇到的类和以前学习的类进行分类。为此目的，我们通过从基类循环地采样任务来提出图形伪增量学习范例，以便为我们的模型产生任意数量的培训集，以练习增量学习技能。此外，我们设计了一种基于分层的图形元学习框架，Hag-Meta。我们介绍了一个任务敏感的常规程序，从任务级关注和节点类原型计算，以缓解到新颖或基本类上的过度拟合。为了采用拓扑知识，我们添加了一个节点级注意模块来调整原型表示。我们的模型不仅达到了旧知识整合的更大稳定性，而且还可以获得对具有非常有限的数据样本的新知识的有利适应性。在三个现实世界数据集上进行广泛的实验，包括亚马逊服装，Reddit和DBLP，表明我们的框架与基线和其他相关最先进的方法相比，展示了显着的优势。

图形广泛用于建模数据的关系结构，并且图形机器学习（ML）的研究具有广泛的应用，从分子图中的药物设计到社交网络中的友谊建议。图形ML的流行方法通常需要大量的标记实例来实现令人满意的结果，这在现实世界中通常是不可行的，因为在图形上标记了新出现的概念的数据（例如，在图形上的新分类）是有限的。尽管已将元学习应用于不同的几个图形学习问题，但大多数现有的努力主要假设所有所见类别的数据都是金标记的，而当这些方法弱标记时，这些方法可能会失去疗效严重的标签噪声。因此，我们旨在研究一个新的问题，即弱监督图元学习，以改善知识转移的模型鲁棒性。为了实现这一目标，我们提出了一个新的图形学习框架 - 本文中的图形幻觉网络（Meta-GHN）。基于一种新的鲁棒性增强的情节训练，元研究将从弱标记的数据中幻觉清洁节点表示，并提取高度可转移的元知识，这使该模型能够快速适应不见了的任务，几乎没有标记的实例。广泛的实验表明，元基因与现有图形学习研究的优越性有关弱监督的少数弹性分类的任务。

Metric-based meta-learning is one of the de facto standards in few-shot learning. It composes of representation learning and metrics calculation designs. Previous works construct class representations in different ways, varying from mean output embedding to covariance and distributions. However, using embeddings in space lacks expressivity and cannot capture class information robustly, while statistical complex modeling poses difficulty to metric designs. In this work, we use tensor fields (``areas'') to model classes from the geometrical perspective for few-shot learning. We present a simple and effective method, dubbed hypersphere prototypes (HyperProto), where class information is represented by hyperspheres with dynamic sizes with two sets of learnable parameters: the hypersphere's center and the radius. Extending from points to areas, hyperspheres are much more expressive than embeddings. Moreover, it is more convenient to perform metric-based classification with hypersphere prototypes than statistical modeling, as we only need to calculate the distance from a data point to the surface of the hypersphere. Following this idea, we also develop two variants of prototypes under other measurements. Extensive experiments and analysis on few-shot learning tasks across NLP and CV and comparison with 20+ competitive baselines demonstrate the effectiveness of our approach.

epiSodic学习是对几枪学习感兴趣的研究人员和从业者的流行练习。它包括在一系列学习问题（或剧集）中组织培训，每个人分为小型训练和验证子集，以模仿评估期间遇到的情况。但这总是必要吗？在本文中，我们调查了在集发作的级别使用非参数方法，例如最近邻居等方法的焦点学习的有用性。对于这些方法，我们不仅展示了广州学习的限制是如何不必要的，而是他们实际上导致利用培训批次的数据低效方式。我们通过匹配和原型网络进行广泛的消融实验，其中两个最流行的方法在集中的级别使用非参数方法。他们的“非焦化”对应物具有很大的更简单，具有较少的近似参数，并在多个镜头分类数据集中提高它们的性能。

Few-shot learning has become essential for producing models that generalize from few examples. In this work, we identify that metric scaling and metric task conditioning are important to improve the performance of few-shot algorithms. Our analysis reveals that simple metric scaling completely changes the nature of few-shot algorithm parameter updates. Metric scaling provides improvements up to 14% in accuracy for certain metrics on the mini-Imagenet 5-way 5-shot classification task. We further propose a simple and effective way of conditioning a learner on the task sample set, resulting in learning a task-dependent metric space. Moreover, we propose and empirically test a practical end-to-end optimization procedure based on auxiliary task co-training to learn a task-dependent metric space. The resulting few-shot learning model based on the task-dependent scaled metric achieves state of the art on mini-Imagenet. We confirm these results on another few-shot dataset that we introduce in this paper based on CIFAR100. Our code is publicly available at https://github.com/ElementAI/TADAM.

图形神经网络（GNNS）已被用于解决几次拍摄学习（FSL）问题，并在转换设置下显示出很大的潜力。但是在归纳设置下，现有的基于GNN的方法竞争较差。这是因为它们使用实例GNN作为标签传播/分类模块，其与特征嵌入网络共同学习。这种设计是有问题的，因为分类器需要在嵌入而不快速地适应新任务。为了克服这个问题，本文提出了一种新的混合GNN（HGNN）模型，包括两个GNN，实例GNN和原型GNN。它们代替标签传播，它们用作嵌入适应模块的功能，以便快速适应嵌入到新任务的元学员的功能。重要的是，他们旨在处理FSL中的基本但经常被忽视的挑战，即只有每班少量镜头，任何几次拍摄的分类器都会对差异或可能导致阶层的严重采样镜头敏感分配重叠。 ％我们的两个GNNS旨在分别解决这两种类型的差别少量射击，并且在混合GNN模型中利用它们的互补性。广泛的实验表明，我们的HGNN在三个FSL基准上获得了新的最先进。

在过去的几年里，几年枪支学习（FSL）引起了极大的关注，以最大限度地减少标有标记的训练示例的依赖。FSL中固有的困难是处理每个课程的培训样本太少的含糊不清的歧义。为了在FSL中解决这一基本挑战，我们的目标是培训可以利用关于新颖类别的先前语义知识来引导分类器合成过程的元学习模型。特别是，我们提出了语义调节的特征注意力和样本注意机制，估计表示尺寸和培训实例的重要性。我们还研究了FSL的样本噪声问题，以便在更现实和不完美的环境中利用Meta-Meverys。我们的实验结果展示了所提出的语义FSL模型的有效性，而没有样品噪声。

很少有视觉识别是指从一些标记实例中识别新颖的视觉概念。通过将查询表示形式与类表征进行比较以预测查询实例的类别，许多少数射击的视觉识别方法采用了基于公制的元学习范式。但是，当前基于度量的方法通常平等地对待所有实例，因此通常会获得有偏见的类表示，考虑到并非所有实例在总结了类级表示的实例级表示时都同样重要。例如，某些实例可能包含无代表性的信息，例如过多的背景和无关概念的信息，这使结果偏差。为了解决上述问题，我们提出了一个新型的基于公制的元学习框架，称为实例自适应类别表示网络（ICRL-net），以进行几次视觉识别。具体而言，我们开发了一个自适应实例重新平衡网络，具有在生成班级表示，通过学习和分配自适应权重的不同实例中的自适应权重时，根据其在相应类的支持集中的相对意义来解决偏见的表示问题。此外，我们设计了改进的双线性实例表示，并结合了两个新型的结构损失，即，阶层内实例聚类损失和阶层间表示区分损失，以进一步调节实例重估过程并完善类表示。我们对四个通常采用的几个基准测试：Miniimagenet，Tieredimagenet，Cifar-FS和FC100数据集进行了广泛的实验。与最先进的方法相比，实验结果证明了我们的ICRL-NET的优势。

图形存在于许多现实世界中的应用中，例如财务欺诈检测，商业建议和社交网络分析。但是，鉴于图形注释或标记的高成本，我们面临严重的图形标签 - 刻度问题，即，图可能具有一些标记的节点。这样一个问题的一个例子是所谓的\ textit {少数弹性节点分类}。该问题的主要方法均依靠\ textit {情节元学习}。在这项工作中，我们通过提出一个基本问题来挑战现状，元学习是否是对几个弹性节点分类任务的必要条件。我们在标准的几杆节点分类设置下提出了一个新的简单框架，作为学习有效图形编码器的元学习的替代方法。该框架由有监督的图形对比学习以及新颖的数据增强，子图编码和图形上的多尺度对比度组成。在三个基准数据集（Corafull，Reddit，OGBN）上进行的广泛实验表明，新框架显着胜过基于最先进的元学习方法。

模型不可知的元学习算法旨在从几个观察到的任务中推断出先验，然后可以使用这些任务来适应新任务，但很少有示例。鉴于在现有基准中产生的任务的固有多样性，最近的方法使用单独的可学习结构，例如层次结构或图形，以实现对先验的特定任务适应。尽管这些方法产生了明显更好的元学习者，但我们的目标是在异质任务分配包含具有挑战性的分布变化和语义差异时提高其性能。为此，我们介绍了CAML（对比知识增强的元学习），这是一种新颖的方法，用于知识增强的几次学习，它演变了知识图以有效地编码历史经验，并采用了对比性的蒸馏策略，以利用编码的知识来为基础学习者的任务感知调制。使用标准基准测试，我们在不同的几次学习方案中评估CAML的性能。除了标准的少量任务适应外，我们还考虑了我们的经验研究中更具挑战性的多域任务适应和少数数据集泛化设置。我们的结果表明，CAML始终胜过最知名的方法，并实现了改善的概括。

我们研究了如何在只有几个类别（几次拍摄设置）给出的一些样本时识别来自Unseen类别（开放式分类）的样本的问题。学习良好抽象的挑战是一个非常少数样本的课程使得从看不见的类别中检测样本非常困难;因此，开放式识别在少量拍摄设置中受到最小的关注。大多数开放式少量拍摄分类方法正规化SoftMax得分以表明开放类样本的均匀概率，但我们认为这种方法通常是不准确的，特别是在细粒度。相反，我们提出了一种新颖的示例性重建的元学习策略，用于共同检测开放类样本，以及通过基于度量的分类对来自观众的样本进行分类。充当类的代表的示例可以在训练数据集中提供或在特征域中估计。我们的框架，名为重建示例的基于少量拍摄的少量开放式分类器（Refofs），在各种数据集上测试，实验结果明确突出了我们作为新技术的方法。

Few-shot node classification is tasked to provide accurate predictions for nodes from novel classes with only few representative labeled nodes. This problem has drawn tremendous attention for its projection to prevailing real-world applications, such as product categorization for newly added commodity categories on an E-commerce platform with scarce records or diagnoses for rare diseases on a patient similarity graph. To tackle such challenging label scarcity issues in the non-Euclidean graph domain, meta-learning has become a successful and predominant paradigm. More recently, inspired by the development of graph self-supervised learning, transferring pretrained node embeddings for few-shot node classification could be a promising alternative to meta-learning but remains unexposed. In this work, we empirically demonstrate the potential of an alternative framework, \textit{Transductive Linear Probing}, that transfers pretrained node embeddings, which are learned from graph contrastive learning methods. We further extend the setting of few-shot node classification from standard fully supervised to a more realistic self-supervised setting, where meta-learning methods cannot be easily deployed due to the shortage of supervision from training classes. Surprisingly, even without any ground-truth labels, transductive linear probing with self-supervised graph contrastive pretraining can outperform the state-of-the-art fully supervised meta-learning based methods under the same protocol. We hope this work can shed new light on few-shot node classification problems and foster future research on learning from scarcely labeled instances on graphs.

在新课程训练时，几乎没有射击学习（FSL）方法通常假设具有准确标记的样品的清洁支持集。这个假设通常可能是不现实的：支持集，无论多么小，仍然可能包括标签错误的样本。因此，对标签噪声的鲁棒性对于FSL方法是实用的，但是这个问题令人惊讶地在很大程度上没有探索。为了解决FSL设置中标签错误的样品，我们做出了一些技术贡献。 （1）我们提供了简单而有效的特征聚合方法，改善了流行的FSL技术Protonet使用的原型。 （2）我们描述了一种嘈杂的噪声学习的新型变压器模型（TRANFS）。 TRANFS利用变压器的注意机制称重标记为错误的样品。 （3）最后，我们对迷你胶原和tieredimagenet的嘈杂版本进行了广泛的测试。我们的结果表明，TRANFS与清洁支持集的领先FSL方法相对应，但到目前为止，在存在标签噪声的情况下，它们的表现优于它们。

图表分类是一种非常有影响力的任务，在多数世界应用中起着至关重要的作用，例如分子性质预测和蛋白质函数预测。以有限标记的图表处理新课程，几次拍摄图形分类已成为一座桥梁现有图分类解决方案与实际使用。这项工作探讨了基于度量的元学习的潜力，用于解决少量图形分类。我们突出了考虑解决方案结构特征的重要性，并提出了一种明确考虑全球结构的新框架和输入图的局部结构。在两个数据集，Chembl和三角形上测试了名为SMF-GIN的GIN的实施，其中广泛的实验验证了所提出的方法的有效性。 ChemBl构造成填补缺乏几次拍摄图形分类评估的大规模基准的差距，与SMF-GIN的实施一起释放：https://github.com/jiangshunyu/smf-ing。

在元学习框架下设计了许多射门学习方法，这些方法从各种学习任务中学习并推广到新任务。这些元学习方法在从同一分布（I.I.D.观察）中绘制的所有样本中的情况下实现了预期的性能。然而，在现实世界应用中，很少拍摄的学习范式往往遭受数据转移，即，即使在相同的任务中，也可以从各种数据分布中汲取不同任务中的示例。大多数现有的几次拍摄方法不考虑数据班次，因此在数据分布换档时显示降级性能。然而，由于每个任务中的标记样本数量有限的标记样本，因此在几次拍摄学习中解决数据转换问题是不普遍的。针对解决此问题，我们提出了一种新的基于度量的元学习框架，以便在知识图表的帮助下提取任务特定的表示和任务共享表示。因此，任务内的数据偏移可以通过任务共享和特定于任务的表示的组合来组合。拟议的模型是对流行的基准测试和两个构造的新具有挑战性的数据集。评估结果表明了其显着性能。

最近，很少拍摄的视频分类已经获得了越来越令人利益。目前的方法主要集中在有效利用视频中的时间维度，以在低数据制度下改善学习。然而，大多数作品在很大程度上忽略了视频通常伴随着丰富的文本描述，也可以是处理少量拍摄识别情况的重要信息来源。在本文中，我们建议利用这些人提供的文本描述作为培训几次视频分类模型时的特权信息。具体来说，我们制定了一种基于文本的任务调节器，以使视频功能适应几次拍摄的学习任务。此外，我们的模型遵循转换设置，通过使用支持文本描述和查询实例来更新一组类原型来提高模型的任务适应能力。我们的模型在四个具有挑战性的基准测试中实现了最先进的性能，通常用于评估少量拍摄视频动作分类模型。

We propose KGTN-ens, a framework extending the recent Knowledge Graph Transfer Network (KGTN) in order to incorporate multiple knowledge graph embeddings at a small cost. We evaluate it with different combinations of embeddings in a few-shot image classification task. We also construct a new knowledge source - Wikidata embeddings - and evaluate it with KGTN and KGTN-ens. Our approach outperforms KGTN in terms of the top-5 accuracy on the ImageNet-FS dataset for the majority of tested settings.