最近，随着3D扫描仪技术的开发，使用点云的研究一直在增加。根据这一趋势，对高质量点云的需求正在增加，但是获得高质量点云的高成本仍然存在问题。因此，随着深度学习的最新发展，Point Cloud Up抽样研究使用深度学习来从低质量点云中产生高质量的点云，是吸引大量关注的领域之一。本文提出了一种新的点云上采样方法，称为Point Cloud通过多尺度吸引注意（PU-MFA）。受到以前的研究的启发，这些研究使用多尺度特征或注意力机制报告了良好的性能，PU-MFA通过U-NET结构融合了两者。此外，PU-MFA自适应地使用多尺度功能来有效地完善全局功能。通过使用PU-GAN数据集（这是合成点云数据集）和Kitti数据集（是实范围的点云数据集），将PU-MFA的性能与其他最先进的方法进行了比较。 。在各种实验结果中，与其他最先进的方法相比，PU-MFA在定量和定性评估方面表现出卓越的性能，证明了所提出的方法的有效性。还对PU-MFA的注意力图进行了可视化，以显示多尺度特征的效果。
translated by 谷歌翻译
本文解决了从给定稀疏点云生成密集点云的问题，以模拟物体/场景的底层几何结构。为了解决这一具有挑战性的问题，我们提出了一种新的基于端到端学习的框架。具体地，通过利用线性近似定理，我们首先明确地制定问题，这逐到确定内插权和高阶近似误差。然后，我们设计轻量级神经网络，通过分析输入点云的局部几何体，自适应地学习统一和分类的插值权重以及高阶改进。所提出的方法可以通过显式制定来解释，因此比现有的更高的内存效率。与仅用于预定义和固定的上采样因子的现有方法的鲜明对比，所提出的框架仅需要一个单一的神经网络，一次性训练可以在典型范围内处理各种上采样因子，这是真实的-world应用程序。此外，我们提出了一种简单但有效的培训策略来推动这种灵活的能力。此外，我们的方法可以很好地处理非均匀分布和嘈杂的数据。合成和现实世界数据的广泛实验证明了所提出的方法在定量和定性的最先进方法上的优越性。
translated by 谷歌翻译
Point Cloud升级旨在从给定的稀疏中产生密集的点云，这是一项具有挑战性的任务，这是由于点集的不规则和无序的性质。为了解决这个问题，我们提出了一种新型的基于深度学习的模型，称为PU-Flow，该模型结合了正常的流量和权重预测技术，以产生均匀分布在基础表面上的致密点。具体而言，我们利用标准化流的可逆特征来转换欧几里得和潜在空间之间的点，并将UPSMPLING过程作为潜在空间中相邻点的集合，从本地几何环境中自适应地学习。广泛的实验表明，我们的方法具有竞争力，并且在大多数测试用例中，它在重建质量，近距到表面的准确性和计算效率方面的表现优于最先进的方法。源代码将在https://github.com/unknownue/pu-flow上公开获得。
translated by 谷歌翻译
鉴于3D扫描仪的快速发展，Point云在AI驱动的机器中变得流行。但是，点云数据本质上是稀疏和不规则的，导致机器感知的主要困难。在这项工作中，我们专注于云上采样任务，该任务旨在从稀疏输入数据生成密集的高保真点云。具体而言，为了激活变压器在代表功能方面的强大功能，我们开发了多头自我关注结构的新变体，以增强特征图的点明智和渠道关系。此外，我们利用位置融合块来全面地捕获点云数据的本地背景，提供有关分散点的更多位置相关信息。由于第一变压器模型引入点云上采样，我们通过与定量和定性的不同基准的基于基准的方法相比，通过比较了我们的方法的出色性能。
translated by 谷歌翻译
多尺度特征的学习和聚集对于授权神经网络以捕获点云上采样任务中的细颗粒几何细节至关重要。大多数现有方法从固定分辨率的点云中提取多尺度功能，因此仅获得有限的细节。尽管现有的方法汇总了一系列Upplampling子网络的不同分辨率的特征层次结构，但培训既复杂又具有昂贵的计算。为了解决这些问题，我们构建了一个名为BIMS-PU的新点云上采样管道，该管道将特征金字塔体系结构与双向上下采样路径集成在一起。具体而言，我们通过将目标采样因子分解为较小的因素，将上/下采样过程分解为几个上/下采样子步骤。多尺度特征是自然而然地以平行方式生产的，并使用快速特征融合方法进行聚合。监督信号同时应用于不同尺度的所有上采样点云。此外，我们制定一个残留块，以减轻模型的训练。不同数据集上的广泛定量和定性实验表明，我们的方法取得了优于最先进方法的结果。最后但并非最不重要的一点是，我们证明了点云上采样可以通过改善3D数据质量来改善机器人感知。
translated by 谷歌翻译
在本文中，我们从功能学习的角度解决了点云完成的具有挑战性的问题。我们的主要观察结果是，要恢复基础结构以及表面细节，给定部分输入，基本组件是一个很好的特征表示，可以同时捕获全球结构和局部几何细节。因此，我们首先提出了FSNET，这是一个功能结构模块，可以通过从本地区域学习多个潜在图案来适应汇总点的点功能。然后，我们将FSNET集成到粗线管道中，以完成点云完成。具体而言，采用2D卷积神经网络将特征图从FSNET解码为粗且完整的点云。接下来，使用一个点云UP抽样网络来从部分输入和粗糙的中间输出中生成密集的点云。为了有效利用局部结构并增强点分布均匀性，我们提出了IFNET，该点具有自校正机制的点提升模块，该模块可以逐步完善生成的密集点云的细节。我们已经在Shapenet，MVP和Kitti数据集上进行了定性和定量实验，这些实验表明我们的方法优于最先进的点云完成方法。
translated by 谷歌翻译
点云上采样是为了使从3D传感器获得的稀疏点集致密，从而为基础表面提供了密度的表示。现有方法将输入点划分为小贴片，并分别对每个贴片进行整理，但是，忽略了补丁之间的全局空间一致性。在本文中，我们提出了一种新颖的方法PC $^2 $ -PU，该方法探讨了贴片对点和点对点相关性，以实现更有效和强大的点云上采样。具体而言，我们的网络有两个吸引人的设计：（i）我们将相邻的补丁作为补充输入来补偿单个补丁中的损失结构信息，并引入一个补丁相关模块以捕获补丁之间的差异和相似性。 （ii）在增强每个贴片的几何形状后，我们进一步引入了一个点相关模块，以揭示每个贴片内部的关系以维持局部空间一致性。对合成和真实扫描数据集进行的广泛实验表明，我们的方法超过了以前的上采样方法，尤其是在嘈杂的输入中。代码和数据位于\ url {https://github.com/chenlongwhu/pc2-pu.git}。
translated by 谷歌翻译
从稀疏的原始数据中生成密集的点云使下游3D理解任务，但现有模型仅限于固定的上采样率或短范围的整数值。在本文中，我们提出了APU-SMOG，这是一种基于变压器的模型，用于任意点云上采样（APU）。首先将稀疏输入映射到高斯（烟雾）分布的球形混合物，从中可以采样任意数量的点。然后，将这些样品作为查询馈送到变压器解码器，将它们映射回目标表面。广泛的定性和定量评估表明，APU-SMOG的表现优于最先进的固定比例方法，同时使用任何缩放因子（包括非直觉值）有效地启用了以单个训练有素的模型来提高采样。该代码将可用。
translated by 谷歌翻译
点云的任务上采样的旨在从稀疏和不规则的点集获取密集和统一的点集。尽管通过深度学习模型取得了重大进展，但最先进的方法需要基于地面的密集点集作为监督，这使得它们有限地受到合成配对训练数据的培训，并且不适合进行现实。扫描稀疏数据。但是，获得大量的配对稀疏点集作为来自实际扫描的稀疏数据的监督，这是昂贵且乏味的。为了解决这个问题，我们提出了一个名为spu-net的自我监督点云上采样网络，以捕获位于基础对象表面上的固有的上采样模式。具体而言，我们提出了一个粗到精细的重建框架，该框架分别包含两个主要组成部分：点特征提取和点特征扩展。在点特征提取中，我们将自我发项模块与图形卷积网络（GCN）集成在一起，以同时捕获本地区域内部和之间的上下文信息。在点功能扩展中，我们引入了一种可学习的折叠策略，以生成具有可学习的2D网格的上采样点集。此外，为了进一步优化生成点集中的嘈杂点，我们提出了一种与统一和重建项相关的新颖的自预测优化，作为促进自我监督点云的关节损失。我们对合成数据集进行了各种实验，结果表明，我们实现了与最先进的监督方法相当的性能。
translated by 谷歌翻译
点云完成任务旨在预测不完整的点云的缺失部分，并通过详细信息生成完整的点云。在本文中，我们提出了一个新颖的点云完成网络，即完成。具体而言，从具有不同分辨率的点云中学到了特征，该分辨率是从不完整输入中采样的，并根据几何结构转换为一系列\ textit {spots}。然后，提出了基于变压器的密集关系增强模块（DRA），以学习\ textit {spots}中的特征，并考虑这些\ textit {spots}之间的相关性。 DRA由点局部注意模块（PLA）和点密集的多尺度注意模块（PDMA）组成，其中PLA通过适应邻居的权重，PDMA Expolo the Local \ textit {spots}捕获本地信息。这些\ textit {spots}之间的全局关系以多尺度的密集连接方式。最后，由\ textit {spots}通过多分辨率点融合模块（MPF）预测完整形状，该模块（mpf）逐渐从\ textit {spots}中逐渐生成完整的点云，并基于这些生成的点进行更新\ textit {spots}云。实验结果表明，由于基于变压器的DRA可以从不完整的输入中学习表达性特征，并且MPF可以完全探索这些功能以预测完整的输入，因此我们的方法在很大程度上优于先进方法。
translated by 谷歌翻译
在本文中，我们提出了一种新的点云表示。与传统点云表示不同，其中每个点仅表示3D空间中的位置或局部平面，神经点中的每个点通过神经领域表示局部连续几何形状。因此，神经点可以表达更复杂的细节，因此具有更强的表示能力。具有含有丰富的几何细节的高分辨率表面培训神经点，使得训练模型具有足够的各种形状的表达能力。具体地，我们通过2D参数域和3D本地补丁之间的局部同构来提取点上的深度局部特征并通过局部同构构造神经字段。在决赛中，局部神经领域集成在一起以形成全局表面。实验结果表明，神经点具有强大的代表能力，展示了优异的鲁棒性和泛化能力。通过神经点，我们可以用任意分辨率重新采样点云，并优于最先进的点云上采样方法，通过大边距。
translated by 谷歌翻译
变压器一直是自然语言处理（NLP）和计算机视觉（CV）革命的核心。 NLP和CV的显着成功启发了探索变压器在点云处理中的使用。但是，变压器如何应对点云的不规则性和无序性质？变压器对于不同的3D表示（例如，基于点或体素）的合适性如何？各种3D处理任务的变压器有多大的能力？截至目前，仍然没有对这些问题的研究进行系统的调查。我们第一次为3D点云分析提供了越来越受欢迎的变压器的全面概述。我们首先介绍变压器体系结构的理论，并在2D/3D字段中审查其应用程序。然后，我们提出三种不同的分类法（即实现 - 数据表示和基于任务），它们可以从多个角度对当前的基于变压器的方法进行分类。此外，我们介绍了研究3D中自我注意机制的变异和改进的结果。为了证明变压器在点云分析中的优势，我们提供了基于各种变压器的分类，分割和对象检测方法的全面比较。最后，我们建议三个潜在的研究方向，为3D变压器的开发提供福利参考。
translated by 谷歌翻译
3D点云的卷积经过广泛研究，但在几何深度学习中却远非完美。卷积的传统智慧在3D点之间表现出特征对应关系，这是对差的独特特征学习的内在限制。在本文中，我们提出了自适应图卷积（AGCONV），以供点云分析的广泛应用。 AGCONV根据其动态学习的功能生成自适应核。与使用固定/各向同性核的解决方案相比，AGCONV提高了点云卷积的灵活性，有效，精确地捕获了不同语义部位的点之间的不同关系。与流行的注意力体重方案不同，AGCONV实现了卷积操作内部的适应性，而不是简单地将不同的权重分配给相邻点。广泛的评估清楚地表明，我们的方法优于各种基准数据集中的点云分类和分割的最新方法。同时，AGCONV可以灵活地采用更多的点云分析方法来提高其性能。为了验证其灵活性和有效性，我们探索了基于AGCONV的完成，DeNoing，Upsmpling，注册和圆圈提取的范式，它们与竞争对手相当甚至优越。我们的代码可在https://github.com/hrzhou2/adaptconv-master上找到。
translated by 谷歌翻译
变压器在图像处理领域取得了显着的成就。受到这一巨大成功的启发，变形金刚在3D点云处理中的应用引起了越来越多的关注。本文提出了一个新颖的点云表示学习网络，具有双重自我注意的3D点云变压器（3DPCT）和一个编码器解码器结构。具体而言，3DPCT具有一个层次编码器，该编码器包含两个用于分类任务的局部全球双重注意模块（分段任务的三个模块），每个模块都包含一个局部特征聚合（LFA）块和全局特征学习（ GFL）块。 GFL块是双重的自我注意事项，既有在点上的自我注意力，又可以提高特征提取。此外，在LFA中，为更好地利用了提取的本地信息，设计了一种新颖的点自我发明模型，称为点斑点自我注意力（PPSA）。在分类和分割数据集上都评估了性能，其中包含合成数据和现实世界数据。广泛的实验表明，所提出的方法在分类和分割任务上都达到了最新的结果。
translated by 谷歌翻译
完成无序部分点云是一个具有挑战性的任务。依赖于解码潜在特征来恢复完整形状的现有方法，通常导致完成的点云过度平滑，丢失细节和嘈杂。我们建议首先解码和优化低分辨率（低res）点云，而不是一次性地解码和优化低分辨率（低分辨率）点云，而不是一次性地插入整个稀疏点云，这趋于失去细节。关于缺乏最初解码的低res点云的细节的可能性，我们提出了一种迭代细化，以恢复几何细节和对称化过程，以保护来自输入部分点云的值得信赖的信息。获得稀疏和完整的点云后，我们提出了一种补丁设计的上采样策略。基于补丁的上采样允许更好地恢复精细细节与整个形状不同，然而，由于数据差异（即，这里的输入稀疏数据不是来自地面真理的输入稀疏数据，现有的上采样方法不适用于完成任务。因此，我们提出了一种补丁提取方法，在稀疏和地面 - 真值云之间生成训练补丁对，以及抑制来自稀疏点云的噪声点的异常删除步骤。我们的整个方法都能实现高保真点云完成。提供综合评估以证明所提出的方法及其各个组件的有效性。
translated by 谷歌翻译
通过扫描真实世界对象或场景采集的3D点云人已经发现了广泛的应用，包括融入式远程呈现，自动驾驶，监视等。它们通常是由噪声扰动或由低密度，这妨碍下游的任务，如表面重建遭受和理解。在本文中，我们提出了点集的二次采样恢复，这获知会聚点朝向下方的表面的点云的连续梯度场的新型范例。特别是，我们表示经由其梯度场点云 - 对数概率密度函数的梯度，和执行梯度场是连续的，这样就保证了模型可解优化的连续性。基于经由提出的神经网络估计出的连续梯度场，重新采样点云量对输入噪声或稀疏的点云执行基于梯度的马尔可夫链蒙特卡洛（MCMC）。此外，我们提出了点云恢复，基本上迭代地细化中间重采样点云，并在重采样过程容纳各种先验期间引入正则化到基于梯度的MCMC。大量的实验结果表明，该点集重采样实现了代表恢复工作，包括点云去噪和采样的国家的最先进的性能。
translated by 谷歌翻译
Point cloud completion is a generation and estimation issue derived from the partial point clouds, which plays a vital role in the applications in 3D computer vision. The progress of deep learning (DL) has impressively improved the capability and robustness of point cloud completion. However, the quality of completed point clouds is still needed to be further enhanced to meet the practical utilization. Therefore, this work aims to conduct a comprehensive survey on various methods, including point-based, convolution-based, graph-based, and generative model-based approaches, etc. And this survey summarizes the comparisons among these methods to provoke further research insights. Besides, this review sums up the commonly used datasets and illustrates the applications of point cloud completion. Eventually, we also discussed possible research trends in this promptly expanding field.
translated by 谷歌翻译
随着3D扫描技术的发展，3D视觉任务已成为一个流行的研究区域。由于由传感器获得的大量数据，无监督的学习对于理解和利用点云而没有昂贵的注释过程至关重要。在本文中，我们提出了一种新颖的框架和一个名为“PSG-Net”的有效自动编码器架构，用于重建基于点云的学习。与使用固定或随机2D点使用的现有研究不同，我们的框架为潜在集合生成输入依赖的点亮功能。 PSG-Net使用编码输入来通过种子生成模块产生点明智的特征，并通过逐渐应用种子特征传播模块逐渐增加分辨率的多个阶段中提取更丰富的特征。我们通过实验证明PSG-Net的有效性; PSG-Net显示了点云重建和无监督分类的最先进的性能，并在监督完成中实现了对应于对应方法的可比性。
translated by 谷歌翻译
点云学习界见证了从CNN到变形金刚的模型转移，纯变压器架构在主要学习基准上实现了最高精度。然而，现有的点变压器是计算昂贵的，因为它们需要产生大的注意图，其相对于输入大小具有二次复杂度（空间和时间）。为了解决这种缺点，我们介绍补丁注意（PAT），以便自适应地学习计算注意力地图的更小的基础。通过对这些基础的加权求和，PAT仅捕获全局形状上下文，而且还可以实现输入大小的线性复杂性。此外，我们提出了一种轻量级的多尺度关注（MST）块来构建不同尺度特征的关注，提供具有多尺度特征的模型。我们配备了PAT和MST，我们构建了我们的神经结构，称为PatchFormer，将两个模块集成到Point云学习的联合框架中。广泛的实验表明，我们的网络对一般点云学习任务的可比准确性具有9.2倍的速度高于先前的点变压器。
translated by 谷歌翻译
在本文中，我们提出了一个全面的点云语义分割网络，该网络汇总了本地和全球多尺度信息。首先，我们提出一个角度相关点卷积（ACPCONV）模块，以有效地了解点的局部形状。其次，基于ACPCONV，我们引入了局部多规模拆分（MSS）块，该块从一个单个块中连接到一个单个块中的特征，并逐渐扩大了接受场，这对利用本地上下文是有益的。第三，受HRNET的启发，在2D图像视觉任务上具有出色的性能，我们构建了一个针对Point Cloud的HRNET，以学习全局多尺度上下文。最后，我们介绍了一种融合多分辨率预测并进一步改善点云语义分割性能的点上的注意融合方法。我们在几个基准数据集上的实验结果和消融表明，与现有方法相比，我们提出的方法有效，能够实现最先进的性能。
translated by 谷歌翻译