本文研究了分层聚类问题，其中目标是生产一种在数据集的变化尺度上表示集群的树形图。我们提出了用于设计并行分层凝聚聚类（HAC）算法的Parchain框架，并使用该框架，我们获得了全面连锁，平均联系和病房的联动标准的新颖平行算法。与最先前的并行HAC算法相比，这需要二次存储器，我们的新算法仅需要线性存储器，并且可以扩展到大数据集。 PARCHAIN基于我们最近邻的链算法的并行化，并使多个群集能够在每一轮上合并。我们介绍了两个关键优化，这对于效率至关重要：范围查询优化，减少查找群集的最近邻居所需的距离计算数，以及存储可能重复使用的先前计算的距离子集的缓存优化。通过实验，我们表明，我们的高度优化实现，使用48个核心，通过双向超线程实现5.8--110.1倍的加速，通过最先进的并行HAC算法，实现了13.75--54.23倍的自相对加速。与最先进的算法相比，我们的算法较少的空间少于237.3倍。我们的算法能够扩展到具有数百万点的数据集大小，现有算法无法处理该算法。

索引是支持大型数据库中有效查询处理的有效方法。最近，已积极探索了替代或补充传统索引结构的学习指数的概念，以降低存储和搜索成本。但是，在高维度空间中准确有效的相似性查询处理仍然是一个开放的挑战。在本文中，我们提出了一种称为LIMS的新型索引方法，该方法使用数据群集，基于枢轴的数据转换技术和学习的索引来支持度量空间中的有效相似性查询处理。在LIM中，将基础数据分配到簇中，使每个群集都遵循相对均匀的数据分布。数据重新分布是通过利用每个集群的少量枢轴来实现的。类似的数据被映射到紧凑的区域，而映射的值是完全顺序的。开发机器学习模型是为了近似于磁盘上每个数据记录的位置。有效的算法设计用于基于LIMS的处理范围查询和最近的邻居查询，以及具有动态更新的索引维护。与传统索引和最先进的学习索引相比，对现实世界和合成数据集的广泛实验证明了LIM的优势。

应用分层聚类算法所需的时间最常由成对差异度量的计算数量主导。对于较大的数据集，这种约束使所有经典链接标准的使用都处于不利地位。但是，众所周知，单个连锁聚类算法对离群值非常敏感，产生高度偏斜的树状图，因此通常不会反映出真正的潜在数据结构 - 除非簇分离良好。为了克服其局限性，我们提出了一个名为Genie的新的分层聚类链接标准。也就是说，我们的算法将两个簇链接在一起，以至于选择的经济不平等度量（例如，gini-或bonferroni index）的群集大小不会大大增加超过给定阈值。提出的基准表明引入的方法具有很高的实际实用性：它通常优于病房或平均链接的聚类质量，同时保持单个连锁的速度。 Genie算法很容易平行，因此可以在多个线程上运行以进一步加快其执行。它的内存开销很小：无需预先计算完整的距离矩阵即可执行计算以获得所需的群集。它可以应用于配备有差异度量的任意空间，例如，在实际矢量，DNA或蛋白质序列，图像，排名，信息图数据等上。有关R。另请参见https://genieclust.gagolewski.com有关新的实施（GenieClust） - 可用于R和Python。

近年来，在平衡（超级）图分配算法的设计和评估中取得了重大进展。我们调查了过去十年的实用算法的趋势，用于平衡（超级）图形分区以及未来的研究方向。我们的工作是对先前有关该主题的调查的更新。特别是，该调查还通过涵盖了超图形分区和流算法来扩展先前的调查，并额外关注并行算法。

高维空间中的大约最近的邻居搜索（ANN）对于许多现实生活应用程序（例如电子商务，Web，多媒体等）至关重要。在本文中，我们提出了一个端到端的学习框架，该框架将分区（ANN的一个关键步骤）和使用自定义损失函数进行学习进行搜索步骤。我们提出的解决方案的关键优势是，它不需要对数据集进行任何昂贵的预处理，这是最新方法的关键局限性之一。我们通过制定不需要地面真实标签来量化数据空间分区的质量的多目标自定义损失函数来实现上述边缘，从而完全不受监督。我们还通过在损失功能中添加不同的输入权重来训练模型集合以增强搜索质量来提出一种结合技术。在几个标准的ANN标准基准上，我们表明我们的方法击败了最新的空间分区方法和无处不在的K-均值聚类方法，同时使用较少的参数和较短的离线训练时间。在没有一般性的情况下，我们的无监督分区方法被证明是许多广泛使用的聚类方法（例如K-均值聚类和DBSCAN）的有希望的替代方法。

The accuracy of k-nearest neighbor (kNN) classification depends significantly on the metric used to compute distances between different examples. In this paper, we show how to learn a Mahalanobis distance metric for kNN classification from labeled examples. The Mahalanobis metric can equivalently be viewed as a global linear transformation of the input space that precedes kNN classification using Euclidean distances. In our approach, the metric is trained with the goal that the k-nearest neighbors always belong to the same class while examples from different classes are separated by a large margin. As in support vector machines (SVMs), the margin criterion leads to a convex optimization based on the hinge loss. Unlike learning in SVMs, however, our approach requires no modification or extension for problems in multiway (as opposed to binary) classification. In our framework, the Mahalanobis distance metric is obtained as the solution to a semidefinite program. On several data sets of varying size and difficulty, we find that metrics trained in this way lead to significant improvements in kNN classification. Sometimes these results can be further improved by clustering the training examples and learning an individual metric within each cluster. We show how to learn and combine these local metrics in a globally integrated manner.

快速可靠的K-最近邻图算法比在许多数据处理技术中广泛使用，这比以往更重要。本文介绍了Wei Dong等人的启发式“NN-DESCENT”算法的运行时优化的C实现。对于L2距离度量。解释了各种实现优化，从而提高了低维和高维数据集的性能。优化以加快选择哪个DataPoint对来评估用于对低维数据集的影响距离。提出了一种利用NN-DESCENT的迭代性质来重新排序存储器中的数据的启发式，这是能够更好地利用局部性，从而改善运行时。对L2距离度量的限制允许使用阻塞距离评估，这显着提高了高维数据集的性能。结合优化产生了一种实现，这显着优于所有被考虑的数据集的广泛使用的NN-DESCEND。例如，流行的Mnist手写数字数据集上的运行时会减半。

分层群集的主要挑战之一是如何适当地识别群集树较低级别的代表点，这些点将被用作群集树的较高级别的根源以进行进一步的聚合。然而，传统的分层聚类方法采用了一些简单的技巧来选择可能不像代表的“代表”点。因此，构造的簇树在其稳健性和可靠性较弱的方面不太吸引。针对这个问题，我们提出了一种新的分层聚类算法，其中，在构建聚类树形图的同时，我们可以有效地检测基于对每个子最小跨越树中的互易读数的互动最近数据点进行评分的代表点。 UCI数据集的广泛实验表明，所提出的算法比其他基准更准确。同时，在我们的分析下，所提出的算法具有O（nlogn）时间复杂度和O（logn）空间复杂度，表明它具有在处理具有更少时间和存储消​​耗的大规模数据方面具有可扩展性。

决策树学习是机器学习中广泛使用的方法，在需要简洁明了的模型的应用中受到青睐。传统上，启发式方法用于快速生产具有相当高准确性的模型。然而，一个普遍的批评是，从精度和大小方面，所产生的树可能不一定是数据的最佳表示。近年来，这激发了最佳分类树算法的发展，这些算法与执行一系列本地最佳决策的启发式方法相比，在全球范围内优化决策树。我们遵循这一工作线，并提供了一种基于动态编程和搜索的最佳分类树的新颖算法。我们的算法支持对树的深度和节点数量的约束。我们方法的成功归因于一系列专门技术，这些技术利用了分类树独有的属性。传统上，最佳分类树的算法受到了高运行时的困扰和有限的可伸缩性，但我们在一项详细的实验研究中表明，我们的方法仅使用最先进的时间所需的时间，并且可以处理数十个数据集的数据集在数千个实例中，提供了几个数量级的改进，并特别有助于实现最佳决策树的实现。

在本文中，我们提出了一个自然的单个偏好（IP）稳定性的概念，该概念要求每个数据点平均更接近其自身集群中的点，而不是其他群集中的点。我们的概念可以从几个角度的动机，包括游戏理论和算法公平。我们研究了与我们提出的概念有关的几个问题。我们首先表明，确定给定数据集通常允许进行IP稳定的聚类通常是NP-HARD。结果，我们探索了在某些受限度量空间中查找IP稳定聚类的有效算法的设计。我们提出了一种poly Time算法，以在实际线路上找到满足精确IP稳定性的聚类，并有效地算法来找到针对树度量的IP稳定2聚类。我们还考虑放松稳定性约束，即，与其他任何集群相比，每个数据点都不应太远。在这种情况下，我们提供具有不同保证的多时间算法。我们在实际数据集上评估了一些算法和几种标准聚类方法。

我们提出了一种用于初始化（播种）$ k $ -MEANS聚类算法的元方法，称为PNN-Smoothing。它包括将给定的数据集拆分为$ j $随机子集，单独聚类，并将所得聚类合并与成对的nearest-neart-neighbor（PNN）方法。从某种意义上说，当单个子集聚类时，任何种子算法都可以使用。如果该播种算法的计算复杂性在数据$ n $的大小和簇$ k $的大小上是线性的，则PNN-Smoothing几乎是线性的，可以选择$ J $，并且在实践中具有竞争力。我们在经验上使用几种现有的播种方法和对几个合成和真实数据集进行测试，表明该过程在系统上会带来更好的成本。我们的实施可在https://github.com/carlobaldassi/kmeanspnnsmoothing.jl上公开获得。

Standard agglomerative clustering suggests establishing a new reliable linkage at every step. However, in order to provide adaptive, density-consistent and flexible solutions, we study extracting all the reliable linkages at each step, instead of the smallest one. Such a strategy can be applied with all common criteria for agglomerative hierarchical clustering. We also study that this strategy with the single linkage criterion yields a minimum spanning tree algorithm. We perform experiments on several real-world datasets to demonstrate the performance of this strategy compared to the standard alternative.

基于密度的聚类算法被广泛用于发现模式识别和机器学习中的簇，因为它们可以处理非诸如球形群集，并且是处理异常值的稳健性。但是，基于密度的算法的运行时间通过在邻居附近找到固定 - 拉迪乌斯并计算密度，这在很大程度上是耗时的。同时，使用索引技术（例如KD树）的传统加速方法在处理高维数据方面无效。在本文中，我们提出了一种快速区域查询算法，借助快速主体组件分析技术与数据主属性提供的几何信息，可以处理高维度的高维度，这些算法可以处理数据的主要属性，这些信息可以处理高维度，从而可以处理高维度数据并轻松地应用于基于密度的方法，以在寻找邻居和估计密度时修剪不必要的距离计算。作为基于密度的聚类方法的应用，将FPCAP方法与使用噪声（DBSCAN）算法的应用程序的密度空间聚类相结合。然后，获得了改进的DBSCAN（称为IDBSCAN），该DBSCAN保留了DBSCAN的优势，同时大大降低了冗余距离的计算。七个基准数据集的实验表明，所提出的算法可显着提高计算效率。

由于其简单性和实用性，密度峰值聚类已成为聚类算法的NOVA。但是，这是一个主要的缺点：由于其高计算复杂性，这是耗时的。在此，开发了稀疏搜索和K-D树的密度峰聚类算法来解决此问题。首先，通过使用k-d树来替换原始的全等级距离矩阵来计算稀疏距离矩阵，以加速局部密度的计算。其次，提出了一种稀疏的搜索策略，以加快与$ k $最近邻居的集合与由数据点组成的集合之间的相互分离的计算。此外，采用了决策值的二阶差异方法来自适应确定群集中心。最后，通过与其他六种最先进的聚类算法进行比较，在具有不同分布特性的数据集上进行实验。事实证明，该算法可以有效地将原始DPC的计算复杂性从$ O（n^2k）$降低到$ O（n（n^{1-1/k}+k））$。特别是对于较大的数据集，效率更加明显地提高。此外，聚类精度也在一定程度上提高了。因此，可以得出结论，新提出的算法的总体性能非常好。

我们在$ d $ dimensional Euclidean Space中研究私人$ k $ -Median和$ k $ -means聚集问题。通过利用树的嵌入，我们提供了一种有效且易于实现的算法，该算法在非私人方法的经验上具有竞争力。我们证明我们的方法计算一个最多$ o（d^{3/2} \ log n）\ cdot opt + o（k d^2 \ log^2 n / \ epsilon^2）$的解决方案，其中$ \ Epsilon $是隐私担保。 （使用标准尺寸缩小技术可以用$ o（\ log k）$替换尺寸项，$ d $。）尽管最坏的案例保证比最先进的私人聚类方法的状态更糟糕，但算法是我们建议是实用的，以接近线性的方式运行，$ \ tilde {o}（nkd）$，时间和比例为数千万分。我们还表明，我们的方法适合在大规模分布式计算环境中并行化。特别是我们表明，我们的私人算法可以在sublinear内存制度中的对数MPC弹奏数中实现。最后，我们通过经验评估来补充理论分析，证明了该算法与其他隐私聚类基线相比的效率和准确性。

由于高存储成本和计算要求，在实践中分析了许多或长时间序列。因此，已经提出了技术来生成时间序列的紧凑相似性保存表示，从而实现大量内存数据集合的实时相似性搜索。然而，当序列在局部间隙时，现有技术并不适合评估相似性。在本文中，我们提出了使用产品量化以了解基于时间序列的有效相似性的比较。该想法是首先通过将时间序列划分为由短代码表示的相等长度子序列来压缩数据。然后可以通过在其代码之间的预先计算的弹性距离来有效地近似于两个时间序列之间的距离。分区进入子序列强制不需要的对齐，我们使用最大重叠离散小波变换（MODWT）与预先对准步骤进行地址。为了展示我们方法的效率和准确性，我们对最近邻居分类和聚类应用中的基准数据集进行了广泛的实验评估。总的来说，所提出的解决方案作为高效（在内存使用和计算时间方面）的高效（无论是在时间序列应用中的弹性措施的替代。

Similarity search finds application in specialized database systems handling complex data such as images or videos, which are typically represented by high-dimensional features and require specific indexing structures. This paper tackles the problem of better utilizing GPUs for this task. While GPUs excel at data-parallel tasks, prior approaches are bottlenecked by algorithms that expose less parallelism, such as k-min selection, or make poor use of the memory hierarchy.We propose a design for k-selection that operates at up to 55% of theoretical peak performance, enabling a nearest neighbor implementation that is 8.5× faster than prior GPU state of the art. We apply it in different similarity search scenarios, by proposing optimized design for brute-force, approximate and compressed-domain search based on product quantization. In all these setups, we outperform the state of the art by large margins. Our implementation enables the construction of a high accuracy k-NN graph on 95 million images from the Yfcc100M dataset in 35 minutes, and of a graph connecting 1 billion vectors in less than 12 hours on 4 Maxwell Titan X GPUs. We have open-sourced our approach 1 for the sake of comparison and reproducibility.

众所周知，大数据挖掘是数据科学的重要任务，因为它可以提供有用的观察结果和隐藏在给定的大数据集中的新知识。基于接近性的数据分析尤其在许多现实生活中使用。在这样的分析中，通常采用了与K最近的邻居的距离，因此其主瓶颈来自数据检索。为提高这些分析的效率做出了许多努力。但是，他们仍然会产生巨大的成本，因为它们基本上需要许多数据访问。为了避免此问题，我们提出了一种机器学习技术，该技术可以快速准确地估算给定查询的K-NN距离（即与K最近的邻居的距离）。我们训练完全连接的神经网络模型，并利用枢轴来实现准确的估计。我们的模型旨在具有有用的优势：它一次不距离K-NN，其推理时间为O（1）（未产生数据访问），但保持高精度。我们对实际数据集的实验结果和案例研究证明了解决方案的效率和有效性。

We review clustering as an analysis tool and the underlying concepts from an introductory perspective. What is clustering and how can clusterings be realised programmatically? How can data be represented and prepared for a clustering task? And how can clustering results be validated? Connectivity-based versus prototype-based approaches are reflected in the context of several popular methods: single-linkage, spectral embedding, k-means, and Gaussian mixtures are discussed as well as the density-based protocols (H)DBSCAN, Jarvis-Patrick, CommonNN, and density-peaks.

图主直觉是一个短时间序列，在较大的时间序列中重复自身大致相同。这样的主题通常代表隐藏的结构，例如心电图记录中的心跳或脑电图中的睡眠纺锤体。主题发现（MD）是在给定输入系列中找到此类主题的任务。由于有不同的定义，因此存在许多算法。作为中心参数，它们都采用了基序的长度L和图案发生之间的最大距离R。但是，实际上，R的合适值很难确定前期，并且发现的图案显示出很高的可变性。设置错误的输入值将导致一个与噪声无法区分的主题。因此，使用这些方法找到一个有趣的主题需要广泛的试用和错误。我们对MD问题提出了不同的方法。我们将k- motiflet定义为长度为l的基序的精确k出现，其最大成对距离是最小的。这将MD问题颠倒了：我们的中心参数不是距离阈值r，而是主题集的所需尺寸K，我们显示的更直观且易于设置。基于此定义，我们提出了用于查找K-单体并分析其复杂性的精确和近似算法。为了进一步缓解我们的方法的使用，我们描述了扩展，以自动确定其输入参数的正确/合适值。因此，第一次提取有意义的主题集在没有任何A-Priori知识的情况下变得可行。通过评估现实世界的用例并将其与4种最先进的MD算法进行比较，我们表明我们提出的算法在定量上是（a）较高的，在较高的相似性上找到较大的基序集，（b）在质量上更好，导致，导致更清晰，更易于解释主题，（c）的运行时间最低。