非线性维度降低可以通过\纺织{歧管学习}方法来执行，例如随机邻居嵌入（SNE），局部线性嵌入（LLE）和等距特征映射（ISOMAP）。这些方法旨在产生两个或三个潜在嵌入的嵌入，主要用于可视化可理解的表示数据。此稿件提出了学生的T分布式SNE（T-SNE），LLE和ISOMAP的扩展，以实现多维数量和多视图数据的可视化。多视图数据是指从相同样本生成的多种类型的数据。与通过单独可视化所获得的数据，所提出的多视图方法提供了比较通过可视化所获得的多个数据的更可理解的预测。通常可视化用于识别样本内的底层模式。通过将获得的低维嵌入从多视图歧管中的方法结合到K-Means聚类算法中，示出了准确地识别出样品的簇。通过对实际和合成数据的分析，发现所提出的多SNE方法具有最佳性能。我们进一步说明了多SNE方法对分析多OMICS单细胞数据的适用性，目的是在与健康和疾病相关的生物组织中可视化和识别细胞异质性和细胞类型。

越来越多的多视图数据正在通过几个领域的研究发布。这种类型的数据对应于多个数据视图，每个数据视图表示相同的样本集的不同方面。我们最近提出了多SNE，T-SNE的扩展，产生了多视图数据的单一可视化。多SNE方法提供样本的低维嵌入，通过通过不同的数据视图进行迭代地更新。在这里，我们进一步扩展了多个SNE以半监督方法，通过将未标记的样本视为标记信息作为额外的数据视图来分类。我们通过在不同挑战上应用各种多视图数据集的两种方法，我们更深入地进入多SNE及其扩展，S-Multi-SNE的性能，限制和优势。我们表明，通过包括标签信息，样品的投影急剧改善，并伴随着强大的分类性能。

最近有一项激烈的活动在嵌入非常高维和非线性数据结构的嵌入中，其中大部分在数据科学和机器学习文献中。我们分四部分调查这项活动。在第一部分中，我们涵盖了非线性方法，例如主曲线，多维缩放，局部线性方法，ISOMAP，基于图形的方法和扩散映射，基于内核的方法和随机投影。第二部分与拓扑嵌入方法有关，特别是将拓扑特性映射到持久图和映射器算法中。具有巨大增长的另一种类型的数据集是非常高维网络数据。第三部分中考虑的任务是如何将此类数据嵌入中等维度的向量空间中，以使数据适合传统技术，例如群集和分类技术。可以说，这是算法机器学习方法与统计建模（所谓的随机块建模）之间的对比度。在论文中，我们讨论了两种方法的利弊。调查的最后一部分涉及嵌入$ \ mathbb {r}^ 2 $，即可视化中。提出了三种方法：基于第一部分，第二和第三部分中的方法，$ t $ -sne，UMAP和大节。在两个模拟数据集上进行了说明和比较。一个由嘈杂的ranunculoid曲线组成的三胞胎，另一个由随机块模型和两种类型的节点产生的复杂性的网络组成。

We present a new technique called "t-SNE" that visualizes high-dimensional data by giving each datapoint a location in a two or three-dimensional map. The technique is a variation of Stochastic Neighbor Embedding (Hinton and Roweis, 2002) that is much easier to optimize, and produces significantly better visualizations by reducing the tendency to crowd points together in the center of the map. t-SNE is better than existing techniques at creating a single map that reveals structure at many different scales. This is particularly important for high-dimensional data that lie on several different, but related, low-dimensional manifolds, such as images of objects from multiple classes seen from multiple viewpoints. For visualizing the structure of very large data sets, we show how t-SNE can use random walks on neighborhood graphs to allow the implicit structure of all of the data to influence the way in which a subset of the data is displayed. We illustrate the performance of t-SNE on a wide variety of data sets and compare it with many other non-parametric visualization techniques, including Sammon mapping, Isomap, and Locally Linear Embedding. The visualizations produced by t-SNE are significantly better than those produced by the other techniques on almost all of the data sets.

我们讨论集群分析的拓扑方面，并表明在聚类之前推断数据集的拓扑结构可以大大增强群集检测：理论论证和经验证据表明，聚类嵌入向量，代表数据歧管的结构，而不是观察到的特征矢量他们自己是非常有益的。为了证明，我们将流形学习方法与基于密度的聚类方法DBSCAN结合了歧管学习方法UMAP。合成和真实数据结果表明，这既简化和改善了多种低维问题，包括密度变化和/或纠缠形状的群集。我们的方法简化了聚类，因为拓扑预处理始终降低DBSCAN的参数灵敏度。然后，用dbscan聚类所得的嵌入可以超过诸如spectacl和clustergan之类的复杂方法。最后，我们的调查表明，聚类中的关键问题似乎不是数据的标称维度或其中包含多少不相关的功能，而是\ textIt {可分离}群集在环境观察空间中的\ textit {可分离}，它们嵌入了它们中。 ，通常是数据特征定义的（高维）欧几里得空间。我们的方法之所以成功，是因为我们将数据投影到更合适的空间后，从某种意义上说，我们执行了群集分析。

被动射频（RF）感测和对老年护理房屋的人类日常活动监测是一个新兴的话题。微多普勒雷达是一种吸引人的解决方案，考虑到它们的非侵入性，深渗透和高距离范围。尽管在真实情景中未标记或较差的活动的情况下，但是使用多普勒雷达数据的无监督活动识别尚未得到注意。本研究提出了使用多普勒流的人类活动监测的两个无监督特征提取方法。这些包括基于局部离散余弦变换（DCT）的特征提取方法和基于局部熵的特征提取方法。此外，对于多普勒雷达数据，首次采用了卷积变分性自动化器（CVAE）特征提取的新应用。将三种特征提取架构与先前使用的卷积AutoEncoder（CAE）和基于主成分分析（PCA）和2DPCA的线性特征提取进行比较。使用K-Means和K-METOIDS进行无监督的聚类。结果表明，与CAE，PCA和2DPCA相比，基于DCT的方法，基于熵的方法和CVAE特征的优越性，具有超过5 \％-20 \％的平均精度。关于计算时间，两个提出的方法明显比现有的CVAE快得多。此外，对于高维数据可视化，考虑了三种歧管学习技术。比较方法，以对原始数据的投影以及编码的CVAE特征进行比较。当应用于编码的CVAE特征时，所有三种方法都显示出改善的可视化能力。

基于非线性吸引力 - 抑制力的方法（包括T-SNE，UMAP，FORCEATLAS2，grounvis等）主导了维度降低的现代方法。本文的目的是证明所有此类方法，通过设计，都带有一个沿途自动计算的附加功能，即与这些力相关的向量场。我们展示了该向量领域如何提供其他高质量信息，并根据莫尔斯理论的思想提出了一般的完善策略。这些想法的效率是使用T-SNE在合成和现实生活数据集上专门说明的。

邻居Embeddings是一种使用$ k $ nn图来可视化复杂的高维数据集的方法。为了找到低维嵌入，这些算法将相邻对点之间的吸引力与所有点之间的排斥力相结合。这种算法的最受欢迎的例子之一是T-SNE。在这里，我们经验证明使用夸张参数改变T-SNE中的吸引力和排斥力之间的平衡产生了一种嵌入式，其特点是简单的折衷：更强的吸引力可以更好地代表连续的歧管结构，而更强排斥可以更好地代表离散的集群结构，并收益率较高$ K $ NN召回。我们发现Umap Embeddings对应于涉及吸引力的T-SNE;数学分析表明，这是因为UMAP采用的负采样优化策略强烈降低了有效的排斥。同样，Forceatlas2通常用于可视化发育​​单细胞转录组数据，产生与T-SNE相对应的嵌入，吸引力增加更多。在这个频谱的极端Lieglacian eigenmaps。我们的结果表明，许多突出的邻居嵌入算法可以放置在吸引力频谱上，并突出显示它们之间的固有折衷。

尺寸数据减少方法是探索和可视化大数据集的基础。无监督数据探索的基本要求是简单，灵活性和可扩展性。但是，当前方法显示复杂的参数化和强大的计算限制，在跨尺度探索大型数据结构时。在这里，我们专注于T-SNE算法，并显示具有单个控制参数的简化参数设置，即困惑，可以有效地平衡本地和全局数据结构可视化。我们还设计了一个Chunk \＆Mix协议，以有效地并行化T-SNE，并探索比目前可用的多种尺度范围的数据结构。我们的BH-TSNE的并行版本，即PT-SNE，融合到良好的全球嵌入，尽管块\和混合协议增加了很少的噪声并降低了当地规模的准确性。尽管如此，我们表明简单的后处理可以有效地恢复本地尺度可视化，而不会在全球范围内损失精度。我们预计相同的方法可以应用于更快的嵌入算法，而不是BH-TSNE，如Fit-Sne或UMAP，因此扩展了最先进的，并导致更全面的数据结构可视化和分析。

We review clustering as an analysis tool and the underlying concepts from an introductory perspective. What is clustering and how can clusterings be realised programmatically? How can data be represented and prepared for a clustering task? And how can clustering results be validated? Connectivity-based versus prototype-based approaches are reflected in the context of several popular methods: single-linkage, spectral embedding, k-means, and Gaussian mixtures are discussed as well as the density-based protocols (H)DBSCAN, Jarvis-Patrick, CommonNN, and density-peaks.

降低降低技术旨在代表低维空间中的高维数据，以提取隐藏和有用的信息，或者促进对数据的视觉理解和解释。但是，很少有人考虑高维数据中隐含的潜在群集信息。在本文中，我们提出了基于T-SNE的新的图形非线性降低方法Laptsne，这是将高维数据视为2D散点图的最佳技术之一。具体而言，Laptsne在学习保留从高维空间到低维空间的局部和全球结构时，利用图形laplacian的特征值信息缩小了低维嵌入中的潜在簇。解决提出的模型是不平凡的，因为归一化对称拉普拉斯的特征值是决策变量的函数。我们提供了一种具有收敛保证的大型最小化算法，以解决LAPTSNE的优化问题，并显示如何分析梯度，当考虑使用Laplacian兼容的目标进行优化时，这可能引起人们的广泛关注。我们通过与最先进的方法进行正式比较，在视觉和既定的定量测量中评估我们的方法。结果证明了我们方法比T-SNE和UMAP等基线的优越性。我们还将方法扩展到光谱聚类并建立一种准确且无参数的聚类算法，该算法为我们提供了实际应用中的高可靠性和便利性。

大多数维度降低方法采用频域表示，从基质对角线化获得，并且对于具有较高固有维度的大型数据集可能不会有效。为了应对这一挑战，相关的聚类和投影（CCP）提供了一种新的数据域策略，不需要解决任何矩阵。CCP将高维特征分配到相关的群集中，然后根据样本相关性将每个集群中的特征分为一个一维表示。引入了残留相似性（R-S）分数和索引，Riemannian歧管中的数据形状以及基于代数拓扑的持久性Laplacian进行可视化和分析。建议的方法通过与各种机器学习算法相关的基准数据集验证。

这是一门专门针对STEM学生开发的介绍性机器学习课程。我们的目标是为有兴趣的读者提供基础知识，以在自己的项目中使用机器学习，并将自己熟悉术语作为进一步阅读相关文献的基础。在这些讲义中，我们讨论受监督，无监督和强化学习。注释从没有神经网络的机器学习方法的说明开始，例如原理分析，T-SNE，聚类以及线性回归和线性分类器。我们继续介绍基本和先进的神经网络结构，例如密集的进料和常规神经网络，经常性的神经网络，受限的玻尔兹曼机器，（变性）自动编码器，生成的对抗性网络。讨论了潜在空间表示的解释性问题，并使用梦和对抗性攻击的例子。最后一部分致力于加强学习，我们在其中介绍了价值功能和政策学习的基本概念。

与许多机器学习模型类似，群集加权模型（CWM）的准确性和速度都可以受到高维数据的阻碍，从而导致以前的作品对一种简约的技术，以减少“尺寸诅咒”对混合模型的影响。在这项工作中，我们回顾了集群加权模型（CWM）的背景研究。我们进一步表明，在庞大的高维数据的情况下，简约的技术不足以使混合模型蓬勃发展。我们通过使用“ FlexCWM” R软件包中的默认值选择位置参数的初始值来讨论一种用于检测隐藏组件的启发式。我们引入了一种称为T-分布的随机邻居嵌入（TSNE）的维度降低技术，以增强高维空间中的简约CWM。最初，CWM适用于回归，但出于分类目的，所有多级变量都会用一些噪声进行对数转换。模型的参数是通过预期最大化算法获得的。使用来自不同字段的实际数据集证明了讨论技术的有效性。

将高维数据嵌入到低维歧管上具有理论和实用的值。在本文中，我们建议将深神经网络（DNN）与数学引导的嵌入规则相结合，以进行高维数据嵌入的规则。我们介绍了一个通用的深度嵌入网络（DEN）框架，它能够从高维空间到低维空间的参数映射，由诸如Kullback-Leibler（KL）发散最小化的良好的目标引导。我们进一步提出了一种递归策略，称为深度递归嵌入（DRE），以利用潜在的数据表示来提升嵌入性能。我们举例说明DRE通过不同的架构和丢失功能的灵活性，并对我们的方法进行基准测试，以及针对两个最受欢迎的嵌入方法，即T分布式随机邻居嵌入（T-SNE）和均匀歧管近似和投影（UMAP）。所提出的DRE方法可以将样品超出数据和缩放到极大的数据集。与其他最先进的嵌入方法相比，一系列公共数据集的实验表明，在本地和全球结构保护方面提高了嵌入性能。

由于多源信息集成的能力，多视图聚类吸引了很多关注。尽管在过去几十年中已经提出了许多高级方法，但其中大多数通常忽略了弱监督信息的重要性，并且无法保留多种视图的特征属性，从而导致聚类性能不令人满意。为了解决这些问题，在本文中，我们提出了一种新颖的深度观看半监督聚类（DMSC）方法，该方法在网络填充过程中共同优化了三种损失，包括多视图集群损失，半监督的成对约束损失损失和多个自动编码器重建损失。具体而言，基于KL差异的多视图聚类损失被施加在多视图数据的共同表示上，以同时执行异质特征优化，多视图加权和聚类预测。然后，我们通过创新建议将成对约束集成到多视图聚类的过程中，通过执行所学到的必须链接样本的多视图表示（不能链接样本）是相似的（不同的），以便形成的聚类结构可以可以更可信。此外，与现有的竞争对手不同，该竞争对手仅保留网络填充期间每个异质分支的编码器，我们进一步建议调整完整的自动编码器框架，其中包含编码器和解码器。通过这种方式，可以缓解特定视图和视图共享特征空间的严重腐败问题，从而使整个培训程序更加稳定。通过在八个流行图像数据集上进行的全面实验，我们证明了我们提出的方法的性能要比最先进的多视图和单视竞争对手更好。

多视图光谱聚类（MVSC）由于多样化的数据源而引起了越来越多的关注。但是，大多数现有作品在样本外预测中被禁止，并且忽略了模型的解释性和聚类结果的探索。在本文中，通过限制内核机框架通过共享潜在空间提出了一种新的MVSC方法。通过偶联特征双重性的镜头，我们为MVSC施加了加权内核主成分分析问题，并开发了修改的加权共轭特征二重性以制定二元变量。在我们的方法中，双重变量扮演着隐藏特征的角色，所有视图都共享了构造一个常见的潜在空间，并通过从特定的空间中学习预测来耦合视图。这种潜在空间可促进分离的簇，并提供直接的数据探索，促进可视化和解释。我们的方法只需要一个单一的特征分类，其维度独立于视图数量。为了提高高阶相关性，引入了基于张量的建模而不增加计算复杂性。我们的方法可以通过样本外扩展灵活地应用，从而极大地提高了具有固定尺寸内核方案的大规模数据的效率。数值实验验证了我们的方法在准确性，效率和可解释性方面有效，显示出明显的特征值衰减和不同的潜在变量分布。

群集集群或共识群集已成为一种强大的工具，用于提高各种聚类方法的鲁棒性和结果的稳定性。加权聚类集群自然地从集群集群中产生。加权群集集合的参数之一是聚类集群中的元素（群集或集群）具有不同的质量，或者对象或特征具有不同意义的重要性。但是，不可能直接将加权机制从分类（监督）域中应用于群集（无监督）域，因为群集本质上是一个不存在的问题。本文通过讨论不同类型的权重，确定重量值的主要方法以及将加权聚类集合与复杂数据的应用程序的主要方法概述了加权集群集群集合概述。本文提出的统一框架将有助于聚类从业者为自己的问题选择最合适的加权机制。

与高维数据集的探索性分析（例如主成分分析（PCA））相反，邻居嵌入（NE）技术倾向于更好地保留高维数据的局部结构/拓扑。然而，保留局部结构的能力是以解释性为代价的：诸如T-分布的随机邻居嵌入（T-SNE）或统一的歧管近似和投影（UMAP）等技术没有提供拓扑结构的介绍（UMAP）（UMAP）（UMAP）（UMAP）（UMAP）（UMAP）（UMAP）。在相应的嵌入中看到的群集）结构。在这里，我们提出了基于PCA，Q-残基和Hotelling的T2贡献的化学计量学领域的不同“技巧”，并结合了新型可视化方法，从而得出了邻居嵌入的局部和全局解释。我们展示了我们的方法如何使用标准的单变量或多变量方法来识别数据点组之间的歧视性特征。

在过去二十年中，识别具有不同纵向数据趋势的群体的方法已经成为跨越许多研究领域的兴趣。为了支持研究人员，我们总结了文献关于纵向聚类的指导。此外，我们提供了一种纵向聚类方法，包括基于基团的轨迹建模（GBTM），生长混合模拟（GMM）和纵向K平均值（KML）。该方法在基本级别引入，并列出了强度，限制和模型扩展。在最近数据收集的发展之后，将注意这些方法的适用性赋予密集的纵向数据（ILD）。我们展示了使用R.中可用的包在合成数据集上的应用程序的应用。