在本文中，我们介绍了一种早期方法的新颖变化，称为均质聚类算法，用于降低数据集大小。本文提出的方法背后的直觉是将数据集划分为均匀簇，并选择一些对准确性产生重大贡献的图像。选定的图像是训练数据的正确子集，因此是可读的。我们在基线算法RHC上提出了四个变体。第一种方法背后的直觉是，边界点有助于簇的代表。它涉及选择群集质心的最远的k和一个最近的邻居。在以下两种方法（KONCW和CWKC）中，我们介绍了簇权重的概念。它们是基于这样一个事实，即较大的簇贡献比较小的群集的贡献更多。最终变化是GHCIDR，它根据数据分布的几何方面选择点。我们在两个深度学习模型 - 完全连接的网络（FCN）和VGG1上进行了实验。我们在三个数据集中的四个变体中进行了实验：MNIST，CIFAR10和Fashion-Mnist。我们发现，GHCIDR的最佳准确度分别为99.35％，81.10％和91.66％，培训数据降低了87.27％，32.34％和76.80％，分别为MNIST，CIFAR10和时尚。

自从深网的成立以来，训练模型所需的计算资源一直在增加。大规模数据集中的培训神经网络已成为一项具有挑战性且耗时的任务。因此，需要减少数据集而不损害准确性。在本文中，我们介绍了一种早期方法，即通过均匀聚类来减少数据集大小的新颖方法。所提出的方法基于将数据集划分为均匀簇的想法，并选择对准确性产生显着贡献的图像。我们提出了两种变体：用于图像数据降低的几何均匀聚类（GHCIDR）和合并GHCIDR在基线算法 - 通过均匀聚类（RHC）降低（RHC），以实现更好的准确性和训练时间。 GHCIDR背后的直觉涉及通过簇权重和训练集的几何分布选择数据点。合并GHCIDR涉及使用完整的链接聚类的群集合并相同的标签。我们使用了三个深度学习模型 - 完全连接的网络（FCN），VGG1和VGG16。我们在四个数据集中进行了两个变体 - MNIST，CIFAR10，Fashion-Mnist和Tiny-Imagenet。与RHC相同百分比的合并GHCIDR在MNIST，Fashion-Mnist，CIFAR10和Tiny-Imagenet上分别增加了2.8％，8.9％，7.6％和3.5％。

深度学习表明，针对不同领域（例如图像和语音识别）的传统机器学习方法有了重大改进。他们在基准数据集上的成功通过从业人员通过验证的模型转移到现实世界中。使用监督学习预处理的视觉模型需要大量昂贵的数据注释。为了应对这一限制，已经提出了DeepCluster（一种简单且可扩展的视觉表示预处理）。但是，该模型的基本工作尚不清楚。在本文中，我们分析了DeepCluster内部质量，并详尽地评估了各种超参数在三个不同数据集上的影响。因此，我们提出了一个解释算法在实践中起作用的原因。我们还表明，深簇收敛和性能高度取决于卷积层随机初始化过滤器的质量与所选簇数的相互作用。此外，我们证明连续聚类对于深簇收敛并不重要。因此，聚类阶段的早期停止将减少训练时间，并允许算法扩展到大型数据集。最后，我们在半监督环境中得出了合理的超参数选择标准。

广泛应用的密度峰聚类（DPC）算法使得直观的群集形成假设假设集群中心通常被具有较低局部密度的数据点包围，远离具有较高局部密度的其他数据点。然而，这种假设遭受一个限制，即在识别具有较低密度的簇时通常有问题，因为它们可以容易地合并到具有更高密度的其他簇中。结果，DPC可能无法识别具有变分密度的簇。为了解决这个问题，我们提出了一种变分浓度峰值聚类（VDPC）算法，该算法旨在系统地和自主地在具有各种类型的密度分布的数据集上执行聚类任务。具体而言，我们首先提出了一种新的方法，以确定所有数据点中的代表，并根据所确定的代表构建初始集群，以进一步分析集群财产。此外，我们根据其本地密度将所有数据点划分为不同的级别，并通过组合DPC和DBSCAN的优点来提出统一的聚类框架。因此，系统地处理跨越不同密度水平跨越不同密度水平的所有识别的初始簇以形成最终簇。为了评估所提出的VDPC算法的有效性，我们使用20个数据集进行广泛的实验，包括八个合成，六个现实世界和六个图像数据集。实验结果表明，VDPC优于两个经典算法（即，DPC和DBSCAN）和四种最先进的扩展DPC算法。

我们提出了一种新的方法，用于训练神经网络进行图像分类，以动态减少输入数据，以降低训练神经网络模型的成本。随着深度学习任务变得越来越流行，它们的计算复杂性会增加，从而导致更复杂的算法和模型，这些算法和模型具有更长的时间，并且需要更多的输入数据。结果是按时，硬件和环境资源的成本更高。通过使用数据降低技术，我们减少了执行的工作量以及AI技术的环境影响，并且通过动态数据降低，我们表明可以在将运行时保持高达50％的同时保持准确性，并按比例减少碳排放。

哪些目标标签对于图形神经网络（GNN）培训最有效？在某些应用GNNS Excel样药物设计或欺诈检测的应用中，标记新实例很昂贵。我们开发一个具有数据效率的主动采样框架，即ScatterSample，以在主动学习设置下训练GNN。 ScatterSample采用称为不同确定性的抽样模块，从样品空间的不同区域收集具有较大不确定性的实例以进行标记。为了确保所选节点的多样化，不同的确定性簇群簇较高的不确定性节点，​​并从每个群集中选择代表性节点。严格的理论分析表明，与标准的主动采样方法相比，我们的ScatterSample算法进一步支持了其优势，该方法旨在简单地简单地提高不确定性，而不是使样品多样化。特别是，我们表明ScatterSample能够在整个样品空间上有效地减少模型不确定性。我们在五个数据集上的实验表明，散点样本明显优于其他GNN主动学习基线，特别是它将采样成本降低了50％，同时达到了相同的测试准确性。

In semi-supervised representation learning frameworks, when the number of labelled data is very scarce, the quality and representativeness of these samples become increasingly important. Existing literature on semi-supervised learning randomly sample a limited number of data points for labelling. All these labelled samples are then used along with the unlabelled data throughout the training process. In this work, we ask two important questions in this context: (1) does it matter which samples are selected for labelling? (2) does it matter how the labelled samples are used throughout the training process along with the unlabelled data? To answer the first question, we explore a number of unsupervised methods for selecting specific subsets of data to label (without prior knowledge of their labels), with the goal of maximizing representativeness w.r.t. the unlabelled set. Then, for our second line of inquiry, we define a variety of different label injection strategies in the training process. Extensive experiments on four popular datasets, CIFAR-10, CIFAR-100, SVHN, and STL-10, show that unsupervised selection of samples that are more representative of the entire data improves performance by up to ~2% over the existing semi-supervised frameworks such as MixMatch, ReMixMatch, FixMatch and others with random sample labelling. We show that this boost could even increase to 7.5% for very few-labelled scenarios. However, our study shows that gradually injecting the labels throughout the training procedure does not impact the performance considerably versus when all the existing labels are used throughout the entire training.

聚类是一种无监督的机器学习方法，其中未标记的元素/对象被分组在一起，旨在构建成熟的群集，以根据其相似性对其元素进行分类。该过程的目的是向研究人员提供有用的帮助，以帮助她/他确定数据中的模式。在处理大型数据库时，如果没有聚类算法的贡献，这种模式可能无法轻易检测到。本文对最广泛使用的聚类方法进行了深入的描述，并伴随着有关合适的参数选择和初始化的有用演示。同时，本文不仅代表了一篇评论，该评论突出了所检查的聚类技术的主要要素，而且强调了这些算法基于3个数据集的聚类效率的比较，从而在对抗性和复杂性中揭示了其现有的弱点和能力，在持续的离散和持续的离散和离散和持续的差异。观察。产生的结果有助于我们根据数据集的大小提取有关检查聚类技术的适当性的宝贵结论。

Clustering is central to many data-driven application domains and has been studied extensively in terms of distance functions and grouping algorithms. Relatively little work has focused on learning representations for clustering. In this paper, we propose Deep Embedded Clustering (DEC), a method that simultaneously learns feature representations and cluster assignments using deep neural networks. DEC learns a mapping from the data space to a lower-dimensional feature space in which it iteratively optimizes a clustering objective. Our experimental evaluations on image and text corpora show significant improvement over state-of-the-art methods.

Clustering is a class of unsupervised learning methods that has been extensively applied and studied in computer vision. Little work has been done to adapt it to the end-to-end training of visual features on large scale datasets. In this work, we present DeepCluster, a clustering method that jointly learns the parameters of a neural network and the cluster assignments of the resulting features. DeepCluster iteratively groups the features with a standard clustering algorithm, kmeans, and uses the subsequent assignments as supervision to update the weights of the network. We apply DeepCluster to the unsupervised training of convolutional neural networks on large datasets like ImageNet and YFCC100M. The resulting model outperforms the current state of the art by a significant margin on all the standard benchmarks.

异常和异常值检测是机器学习中的长期问题。在某些情况下，异常检测容易，例如当从诸如高斯的良好特征的分布中抽出数据时。但是，当数据占据高维空间时，异常检测变得更加困难。我们呈现蛤蜊（聚类学习近似歧管），是任何度量空间中的歧管映射技术。 CLAM以快速分层聚类技术开始，然后根据使用多个几何和拓扑功能所选择的重叠群集，从群集树中引导图表。使用这些图形，我们实现了Chaoda（群集分层异常和异常值检测算法），探索了图形的各种属性及其组成集群以查找异常值。 Chaoda采用了一种基于培训数据集的转移学习形式，并将这些知识应用于不同基数，维度和域的单独测试集。在24个公开可用的数据集上，我们将Chaoda（按衡量ROC AUC）与各种最先进的无监督异常检测算法进行比较。六个数据集用于培训。 Chaoda优于16个剩余的18个数据集的其他方法。 CLAM和Chaoda规模大，高维“大数据”异常检测问题，并贯穿数据集和距离函数。克拉姆和Chaoda的源代码在github上自由地提供https://github.com/uri-abd/clam。

The generalisation performance of a convolutional neural networks (CNN) is majorly predisposed by the quantity, quality, and diversity of the training images. All the training data needs to be annotated in-hand before, in many real-world applications data is easy to acquire but expensive and time-consuming to label. The goal of the Active learning for the task is to draw most informative samples from the unlabeled pool which can used for training after annotation. With total different objective, self-supervised learning which have been gaining meteoric popularity by closing the gap in performance with supervised methods on large computer vision benchmarks. self-supervised learning (SSL) these days have shown to produce low-level representations that are invariant to distortions of the input sample and can encode invariance to artificially created distortions, e.g. rotation, solarization, cropping etc. self-supervised learning (SSL) approaches rely on simpler and more scalable frameworks for learning. In this paper, we unify these two families of approaches from the angle of active learning using self-supervised learning mainfold and propose Deep Active Learning using BarlowTwins(DALBT), an active learning method for all the datasets using combination of classifier trained along with self-supervised loss framework of Barlow Twins to a setting where the model can encode the invariance of artificially created distortions, e.g. rotation, solarization, cropping etc.

Quantum computing is a promising paradigm based on quantum theory for performing fast computations. Quantum algorithms are expected to surpass their classical counterparts in terms of computational complexity for certain tasks, including machine learning. In this paper, we design, implement, and evaluate three hybrid quantum k-Means algorithms, exploiting different degree of parallelism. Indeed, each algorithm incrementally leverages quantum parallelism to reduce the complexity of the cluster assignment step up to a constant cost. In particular, we exploit quantum phenomena to speed up the computation of distances. The core idea is that the computation of distances between records and centroids can be executed simultaneously, thus saving time, especially for big datasets. We show that our hybrid quantum k-Means algorithms can be more efficient than the classical version, still obtaining comparable clustering results.

可解释的AI（XAI）是一个重要的发展领域，但仍相对研究用于聚类。我们提出了一种可解释的划分聚类方法，不仅可以找到集群，而且还可以解释每个群集。基于典范的心理学概念学院的使用支持了示例示例的理解。我们表明，找到一小部分示例来解释即使是一个群集也是计算上的棘手。因此，总体问题具有挑战性。我们开发了一种近似算法，该算法可为聚类质量以及所使用的示例数量提供可证明的性能保证。该基本算法解释了每个集群中的所有实例，而另一种近似算法则使用有界数的示例来允许更简单的解释，并证明涵盖了所有实例的大部分。实验结果表明，我们的工作在涉及很难理解图像和文本深层嵌入的领域中很有用。

通过快速搜索并发现密度峰（DPC）（自2014年以来）的聚类已被证明是一种有希望的聚类方法，可以通过找到密度峰来有效地发现簇中心。 DPC的准确性取决于截止距离（$ d_c $），群集号（$ K $）和簇中心的选择。此外，最终分配策略是敏感的，容错的容量差。上面的缺点使该算法对参数敏感，仅适用于某些特定数据集。为了克服DPC的局限性，本文提出了基于天然最近邻域（DPC-PPPNNN）的密度峰值聚类的概率传播算法的提高。通过引入自然邻域和概率传播的想法，DPC-PPNNN实现了非参数聚类过程，并使该算法适用于更复杂的数据集。在几个数据集的实验中，DPC-PPNNN显示出优于DPC，K-均值和DBSCAN的表现。

这项工作为聚类提供了无监督的深入判别分析。该方法基于深层神经网络，旨在最大程度地减少群集内差异，并以无监督的方式最大化集群间差异。该方法能够将数据投射到具有紧凑和不同分布模式的非线性低维潜在空间中，以便可以有效地识别数据簇。我们进一步提供了该方法的扩展，以便可以有效利用可用的图形信息来提高聚类性能。带有或没有图形信息的图像和非图像数据的广泛数值结果证明了所提出的方法的有效性。

在研究积极的学习时，我们专注于标记的示例数量（预算规模）和合适的查询策略之间的关系。我们的理论分析表明，一种让人联想到相变的行为：预算低时最好查询典型的示例，而预算较大时最好查询无代表性的示例。合并的证据表明，类似的现象发生在共同的分类模型中。因此，我们提出了典型lust，这是一种适合低预算的深度积极学习策略。在对监督学习的比较实证研究中，使用各种架构和图像数据集，TypicLust在低预算制度中的所有其他活跃学习策略都优于所有其他活跃的学习策略。在半监督框架中使用TypicLust，性能得到更加显着的提升。特别是，在CIFAR-10上训练的最新半监督方法，由Typiclust选择的10个标记的示例训练，达到93.2％的精度 - 比随机选择提高了39.4％。代码可在https://github.com/avihu111/typiclust上找到。

需要在机器学习模型中对最小参数设置的需求，以避免耗时的优化过程。$ k $ - 最终的邻居是在许多问题中使用的最有效，最直接的模型之一。尽管具有众所周知的性能，但它仍需要特定数据分布的$ K $值，从而需要昂贵的计算工作。本文提出了一个$ k $ - 最终的邻居分类器，该分类器绕过定义$ k $的值的需求。考虑到训练集的数据分布，该模型计算$ k $值。我们将提出的模型与标准$ K $ - 最近的邻居分类器和文献中的两个无参数版本进行了比较。11个公共数据集的实验证实了所提出方法的鲁棒性，因为所获得的结果相似甚至更好。

旨在选择最有用的培训样本子集的CoreSet选择是一个长期存在的学习问题，可以使许多下游任务受益，例如数据效率学习，持续学习，神经体系结构搜索，主动学习等。但是，许多现有的核心选择方法不是为深度学习而设计的，这些方法可能具有很高的复杂性和不良的概括性能。此外，最近提出的方法在模型，数据集和不同复杂性的设置上进行评估。为了促进深度学习中核心选择的研究，我们贡献了一个全面的代码库，即深核，并就CIFAR10和Imagenet数据集的流行核心选择方法提供了经验研究。关于CIFAR10和Imagenet数据集的广泛实验验证，尽管在某些实验设置中具有优势，但随机选择仍然是一个强大的基线。

We review clustering as an analysis tool and the underlying concepts from an introductory perspective. What is clustering and how can clusterings be realised programmatically? How can data be represented and prepared for a clustering task? And how can clustering results be validated? Connectivity-based versus prototype-based approaches are reflected in the context of several popular methods: single-linkage, spectral embedding, k-means, and Gaussian mixtures are discussed as well as the density-based protocols (H)DBSCAN, Jarvis-Patrick, CommonNN, and density-peaks.