生成高度详细的复杂数据是机器学习领域中的长期存在且经常考虑的问题。但是，开发细节感知的发电机仍然是一个具有挑战性和开放的问题。生成对抗网络是许多最新方法的基础。但是，他们引入了第二个网络作为损失函数训练，使对学习功能的解释变得更加困难。作为替代方案，我们提出了一种基于小波损耗公式的新方法，该方法在优化方面保持透明。在生成具有高频细节的数据时，基于小波的损耗函数用于克服常规距离指标（例如L1或L2距离）的局限性。我们表明，我们的方法可以在说明性合成测试案例中成功重建高频细节。此外，我们根据物理模拟应用于更复杂的表面时评估性能。以大致近似的模拟为输入，我们的方法在考虑它们的发展方式的同时进化了相应的空间细节。我们考虑了这个问题，从空间和时间频率方面，并利用训练有我们的小波损失的生成网络来学习表面动力学的所需时空信号。我们通过一组合成波函数测试以及弹性塑料材料的复杂2D和3D动力学测试方法的功能。
translated by 谷歌翻译
这本数字本书包含在物理模拟的背景下与深度学习相关的一切实际和全面的一切。尽可能多，所有主题都带有Jupyter笔记本的形式的动手代码示例，以便快速入门。除了标准的受监督学习的数据中，我们将看看物理丢失约束，更紧密耦合的学习算法，具有可微分的模拟，以及加强学习和不确定性建模。我们生活在令人兴奋的时期：这些方法具有从根本上改变计算机模拟可以实现的巨大潜力。
translated by 谷歌翻译
具有经典数字求解器的湍流模拟需要非常高分辨率的网格来准确地解决动态。在这里，我们以低空间和时间分辨率培训学习模拟器，以捕获高分辨率产生的湍流动态。我们表明我们所提出的模型可以比各种科学相关指标的相同低分辨率的经典数字求解器更准确地模拟湍流动态。我们的模型从数据训练结束到底，能够以低分辨率学习一系列挑战性的混乱和动态动态，包括最先进的雅典娜++发动机产生的轨迹。我们表明，我们的更简单，通用体系结构优于来自所学到的湍流模拟文献的各种专业的湍流特异性架构。一般来说，我们看到学习的模拟器产生不稳定的轨迹;但是，我们表明调整训练噪音和时间下采样解决了这个问题。我们还发现，虽然超出培训分配的泛化是学习模型，训练噪声，卷积架构以及增加损失约束的挑战。广泛地，我们得出的结论是，我们所知的模拟器优于传统的求解器在较粗糙的网格上运行，并强调简单的设计选择可以提供稳定性和鲁棒的泛化。
translated by 谷歌翻译
在本文中，我们根据卷积神经网络训练湍流模型。这些学到的湍流模型改善了在模拟时为不可压缩的Navier-Stokes方程的溶解不足的低分辨率解。我们的研究涉及开发可区分的数值求解器，该求解器通过多个求解器步骤支持优化梯度的传播。这些属性的重要性是通过那些模型的出色稳定性和准确性来证明的，这些模型在训练过程中展开了更多求解器步骤。此外，我们基于湍流物理学引入损失项，以进一步提高模型的准确性。这种方法应用于三个二维的湍流场景，一种均匀的腐烂湍流案例，一个暂时进化的混合层和空间不断发展的混合层。与无模型模拟相比，我们的模型在长期A-posterii统计数据方面取得了重大改进，而无需将这些统计数据直接包含在学习目标中。在推论时，我们提出的方法还获得了相似准确的纯粹数值方法的实质性改进。
translated by 谷歌翻译
在本文中，提出了一种新的深度学习框架，用于血管流动的时间超分辨率模拟，其中从低时间分辨率的流动模拟结果产生高时分分辨时变血管流动模拟。在我们的框架中，Point-Cloud用于表示复杂的血管模型，建议电阻 - 时间辅助表模型用于提取时变流场的时间空间特征，最后我们可以重建高精度和高精度高分辨率流场通过解码器模块。特别地，从速度的矢量特征提出了速度的幅度损失和方向损失。并且这两个度量的组合构成了网络培训的最终损失函数。给出了几个例子来说明血管流动时间超分辨率模拟所提出的框架的有效和效率。
translated by 谷歌翻译
在各种机器学习应用中，表示学习已被证明是一种强大的方法。然而，对于大气动力学，迄今为止尚未考虑它，这可以说是由于缺乏可用于培训的大型，标记的数据集。在这项工作中，我们表明困难是良性的，并引入了一项自我监督的学习任务，该任务定义了各种未标记的大气数据集的绝对损失。具体而言，我们在简单而复杂的任务上训练神经网络，即预测与不同但附近的大气场之间的时间距离。我们证明，对ERA5重新分析进行此任务的培训会导致内部表示，从而捕获了大气动态的内在方面。我们通过为大气状态引入数据驱动的距离度量来做到这一点。当在其他机器学习应用程序中用作损失功能时，与经典$ \ ell_2 $ -loss相比，该ATMODIST距离会改善结果。例如，对于缩小缩放，一个人获得了更高的分辨率字段，该字段比以前的方法更接近真正的统计信息，而对于缺失或遮挡数据的插值，ATMODIST距离导致的结果导致包含更真实的精细规模特征的结果。由于它来自观察数据，因此Atmodist还提供了关于大气可预测性的新观点。
translated by 谷歌翻译
We present a novel method to provide efficient and highly detailed reconstructions. Inspired by wavelets, our main idea is to learn a neural field that decompose the signal both spatially and frequency-wise. We follow the recent grid-based paradigm for spatial decomposition, but unlike existing work, encourage specific frequencies to be stored in each grid via Fourier features encodings. We then apply a multi-layer perceptron with sine activations, taking these Fourier encoded features in at appropriate layers so that higher-frequency components are accumulated on top of lower-frequency components sequentially, which we sum up to form the final output. We demonstrate that our method outperforms the state of the art regarding model compactness and efficiency on multiple tasks: 2D image fitting, 3D shape reconstruction, and neural radiance fields.
translated by 谷歌翻译
高维时空动力学通常可以在低维子空间中编码。用于建模，表征，设计和控制此类大规模系统的工程应用通常依赖于降低尺寸，以实时计算解决方案。降低维度的常见范例包括线性方法，例如奇异值分解（SVD）和非线性方法，例如卷积自动编码器（CAE）的变体。但是，这些编码技术缺乏有效地表示与时空数据相关的复杂性的能力，后者通常需要可变的几何形状，非均匀的网格分辨率，自适应网格化和/或参数依赖性。为了解决这些实用的工程挑战，我们提出了一个称为神经隐式流（NIF）的一般框架，该框架可以实现大型，参数，时空数据的网格不稳定，低级别表示。 NIF由两个修改的多层感知器（MLP）组成：（i）shapenet，它分离并代表空间复杂性，以及（ii）参数，该参数解释了任何其他输入复杂性，包括参数依赖关系，时间和传感器测量值。我们演示了NIF用于参数替代建模的实用性，从而实现了复杂时空动力学的可解释表示和压缩，有效的多空间质量任务以及改善了稀疏重建的通用性能。
translated by 谷歌翻译
Recent years have witnessed a growth in mathematics for deep learning--which seeks a deeper understanding of the concepts of deep learning with mathematics, and explores how to make it more robust--and deep learning for mathematics, where deep learning algorithms are used to solve problems in mathematics. The latter has popularised the field of scientific machine learning where deep learning is applied to problems in scientific computing. Specifically, more and more neural network architectures have been developed to solve specific classes of partial differential equations (PDEs). Such methods exploit properties that are inherent to PDEs and thus solve the PDEs better than classical feed-forward neural networks, recurrent neural networks, and convolutional neural networks. This has had a great impact in the area of mathematical modeling where parametric PDEs are widely used to model most natural and physical processes arising in science and engineering, In this work, we review such methods and extend them for parametric studies as well as for solving the related inverse problems. We equally proceed to show their relevance in some industrial applications.
translated by 谷歌翻译
机器学习的最近进步已经创造了利用一类基于坐标的神经网络来解决视觉计算问题的兴趣，该基于坐标的神经网络在空间和时间跨空间和时间的场景或对象的物理属性。我们称之为神经领域的这些方法已经看到在3D形状和图像的合成中成功应用，人体的动画，3D重建和姿势估计。然而，由于在短时间内的快速进展，许多论文存在，但尚未出现全面的审查和制定问题。在本报告中，我们通过提供上下文，数学接地和对神经领域的文学进行广泛综述来解决这一限制。本报告涉及两种维度的研究。在第一部分中，我们通过识别神经字段方法的公共组件，包括不同的表示，架构，前向映射和泛化方法来专注于神经字段的技术。在第二部分中，我们专注于神经领域的应用在视觉计算中的不同问题，超越（例如，机器人，音频）。我们的评论显示了历史上和当前化身的视觉计算中已覆盖的主题的广度，展示了神经字段方法所带来的提高的质量，灵活性和能力。最后，我们展示了一个伴随着贡献本综述的生活版本，可以由社区不断更新。
translated by 谷歌翻译
物理信息的神经网络（PINN）是神经网络（NNS），它们作为神经网络本身的组成部分编码模型方程，例如部分微分方程（PDE）。如今，PINN是用于求解PDE，分数方程，积分分化方程和随机PDE的。这种新颖的方法已成为一个多任务学习框架，在该框架中，NN必须在减少PDE残差的同时拟合观察到的数据。本文对PINNS的文献进行了全面的综述：虽然该研究的主要目标是表征这些网络及其相关的优势和缺点。该综述还试图将出版物纳入更广泛的基于搭配的物理知识的神经网络，这些神经网络构成了香草·皮恩（Vanilla Pinn）以及许多其他变体，例如物理受限的神经网络（PCNN），各种HP-VPINN，变量HP-VPINN，VPINN，VPINN，变体。和保守的Pinn（CPINN）。该研究表明，大多数研究都集中在通过不同的激活功能，梯度优化技术，神经网络结构和损耗功能结构来定制PINN。尽管使用PINN的应用范围广泛，但通过证明其在某些情况下比有限元方法（FEM）等经典数值技术更可行的能力，但仍有可能的进步，最著名的是尚未解决的理论问题。
translated by 谷歌翻译
监督的机器学习方法需要在训练阶段最小化损失功能。顺序数据在许多研究领域中无处不在，并且通常通过为表格数据设计的基于欧几里得距离的损失函数处理。对于平滑的振荡数据，这些常规方法缺乏对同时惩罚幅度，频率和相位预测误差的能力，并且倾向于偏向振幅误差。我们将表面相似性参数（SSP）作为一种新型损耗函数引入，对于平滑振荡序列的训练机器学习模型特别有用。我们对混沌时空动力学系统进行的广泛实验表明，SSP有益于塑造梯度，从而加速训练过程，减少最终预测误差，增加重量初始化的鲁棒性以及与使用经典损失功能相比，实施更强的正则化效果。结果表明，新型损失度量的潜力，特别是对于高度复杂和混乱的数据，例如由非线性二维Kuramoto-Sivashinsky方程以及流体中分散表面重力波的线性传播所引起的数据。
translated by 谷歌翻译
我们提出了一个机器学习框架，该框架将图像超分辨率技术与级别测量方法中的被动标量传输融为一体。在这里，我们研究是否可以计算直接数据驱动的校正，以最大程度地减少界面的粗晶石演化中的数值粘度。拟议的系统的起点是半拉格朗日配方。并且，为了减少数值耗散，我们引入了一个易于识别的多层感知器。该神经网络的作用是改善数值估计的表面轨迹。为此，它在单个时间范围内处理局部级别集，速度和位置数据，以便在移动前部附近的选择顶点。因此，我们的主要贡献是一种新型的机器学习调音算法，该算法与选择性重新融为一体并与常规对流交替运行，以保持调整后的界面轨迹平滑。因此，我们的程序比基于全卷卷积的应用更有效，因为它仅在自由边界周围集中计算工作。同样，我们通过各种测试表明，我们的策略有效地抵消了数值扩散和质量损失。例如，在简单的对流问题中，我们的方法可以达到与基线方案相同的精度，分辨率是分辨率的两倍，但成本的一小部分。同样，我们的杂种技术可以产生可行的固化前端，以进行结晶过程。另一方面，切向剪切流和高度变形的模拟会导致偏置伪像和推理恶化。同样，严格的设计速度约束可以将我们的求解器的应用限制为涉及快速接口更改的问题。在后一种情况下，我们已经确定了几个机会来增强鲁棒性，而没有放弃我们的方法的基本概念。
translated by 谷歌翻译
全波形反演（FWI）通常代表成像地下结构和物理参数的最新方法，但是，其实施通常面临着巨大的挑战，例如建立一个良好的初始模型以逃脱本地的最小值，并评估评估反转结果的不确定性。在本文中，我们建议使用连续和隐式定义的深神经表示形式提出隐式全波形反演（IFWI）算法。与对初始模型敏感的FWI相比，IFWI从增加的自由度中受益于深度学习优化，从而可以从随机初始化开始，从而大大降低了非唯一性的风险，并被当地的微型捕获。理论分析和实验分析都表明，在随机初始模型的情况下，IFWI能够收敛到全局最小值并产生具有精细结构的地下的高分辨率图像。此外，通过使用各种深度学习方法近似贝叶斯推断，可以轻松地对IFWI进行不确定性分析，这在本文中通过添加辍学神经元进行了分析。此外，IFWI具有一定程度的鲁棒性和强大的概括能力，在各种2D地质模型的实验中被例证。通过适当的设置，IFWI也可以非常适合多规模关节地球物理反演。
translated by 谷歌翻译
随着神经网络能够生成现实的人造图像，它们有可能改善电影，音乐，视频游戏并使互联网变得更具创造力和鼓舞人心的地方。然而，最新的技术有可能使新的数字方式撒谎。作为响应，出现了多种可靠的方法工具箱，以识别人造图像和其他内容。先前的工作主要依赖于像素空间CNN或傅立叶变换。据我们所知，到目前为止，基于多尺度小波表示的综合伪造图像分析和检测方法始于迄今为止在空间和频率中始终存在。小波转换在一定程度上可以保守空间信息，这使我们能够提出新的分析。比较真实图像和假图像的小波系数可以解释。确定了显着差异。此外，本文提议学习一个模型，以根据自然和gan生成图像的小波包装表示合成图像。正如我们在FFHQ，Celeba和LSUN源识别问题上所证明的那样，我们的轻巧法医分类器在相对较小的网络大小上表现出竞争性或改进的性能。此外，我们研究了二进制脸庞++假检测问题。
translated by 谷歌翻译
本文介绍了频率卷积神经网络（CNN），用于快速，无创的2D剪切波速度（VS）成像的近表面地质材料。在频速度域中运行，可以在用于生成CNN输入的线性阵列，主动源实验测试配置中具有显着的灵活性，这些配置是归一化的分散图像。与波场图像不同，标准化的分散图像对实验测试配置相对不敏感，可容纳各种源类型，源偏移，接收器数量和接收器间距。我们通过将其应用于经典的近乎表面地球物理学问题，即成像两层，起伏的土壤 - 旁质界面的界面来证明频率CNN的有效性。最近，通过开发一个时间距离CNN来研究这个问题，该问题表现出了很大的希望，但在使用不同的现场测试配置方面缺乏灵活性。本文中，新的频道CNN显示出与时距CNN的可比精度，同时提供了更大的灵活性来处理各种现场应用程序。使用100,000个合成近表面模型对频率速度CNN进行了训练，验证和测试。首先，使用训练集的合成近表面模型测试了提议的频率CNN跨各种采集配置概括跨各种采集配置的能力，然后应用于在Austin的Hornsby Bend在Austin的Hornsby Bend收集的实验场数据美国德克萨斯州，美国。当针对更广泛的地质条件范围充分开发时，提出的CNN最终可以用作当前伪2D表面波成像技术的快速，端到端替代方案，或开发用于完整波形倒置的启动模型。
translated by 谷歌翻译
由于基础物理学的复杂性以及捕获中的复杂遮挡和照明，从稀疏多视频RGB视频中对流体的高保真重建仍然是一个巨大的挑战。现有的解决方案要么假设障碍和照明知识，要么仅专注于没有障碍物或复杂照明的简单流体场景，因此不适合具有未知照明或任意障碍的现实场景。我们提出了第一种通过从稀疏视频的端到端优化中利用管理物理（即，navier -stokes方程）来重建动态流体的第一种方法，而无需采取照明条件，几何信息或边界条件作为输入。我们使用神经网络作为流体的密度和速度解决方案函数以及静态对象的辐射场函数提供连续的时空场景表示。通过将静态和动态含量分开的混合体系结构，与静态障碍物的流体相互作用首次重建，而没有其他几何输入或人类标记。通过用物理知识的深度学习来增强随时间变化的神经辐射场，我们的方法受益于对图像和物理先验的监督。为了从稀疏视图中实现强大的优化，我们引入了逐层增长策略，以逐步提高网络容量。使用具有新的正则化项的逐步增长的模型，我们设法在不拟合的情况下解除了辐射场中的密度彩色歧义。在避免了次优速度之前，将预验证的密度到速度流体模型借用了，该数据低估了涡度，但可以微不足道地满足物理方程。我们的方法在一组代表性的合成和真实流动捕获方面表现出具有放松的约束和强大的灵活性的高质量结果。
translated by 谷歌翻译
心肌组织中电脉冲现象的分析对于心律节律疾病和其他心脏病生理学的诊断是重要的。心脏映射技术获取本地时间测量，并将它们与心脏表面相结合以可视化电生理波现象的传播。然而，低空间分辨率，稀疏测量位置，噪音和其他工件使得能够准确地可视化时空活动来挑战。例如，电解剖导管映射受测量的稀疏性严重限制，并且光学映射容易发生噪声和运动伪影。在过去，已经提出了几种方法来获得从嘈杂或稀疏映射数据的更可靠的地图。在这里，我们证明了深度学习可用于计算阶段地图和检测心室颤动的光学映射视频中的相位奇点，以及非常嘈杂，低分辨率和极其稀疏的旋流波混沌模拟导管映射数据的模拟数据。深度学习方法学习直接将相位映射和相奇异性的位置与短时空序列的电气数据序列联系起来。我们基于具有编码和解码结构的卷积神经网络测试了几种神经网络架构，以通过预测相位映射和相位奇异性的后续经典计算来预测直接或间接地预测相位映射或转子芯位置。可以跨不同数据执行预测，其中模型在一个物种上培训，然后成功应用于另一个物种，或者仅在模拟数据上培训，然后应用于实验数据。未来的用途可包括对基本心血管研究中的光学映射研究的分析，以及临床环境中心房颤动的映射。
translated by 谷歌翻译
尽管在整个科学和工程中都无处不在，但只有少数部分微分方程（PDE）具有分析或封闭形式的解决方案。这激发了有关PDE的数值模拟的大量经典工作，最近，对数据驱动技术的研究旋转了机器学习（ML）。最近的一项工作表明，与机器学习的经典数值技术的混合体可以对任何一种方法提供重大改进。在这项工作中，我们表明，在纳入基于物理学的先验时，数值方案的选择至关重要。我们以基于傅立叶的光谱方法为基础，这些光谱方法比其他数值方案要高得多，以模拟使用平滑且周期性解决方案的PDE。具体而言，我们为流体动力学的三个模型PDE开发了ML增强的光谱求解器，从而提高了标准光谱求解器在相同分辨率下的准确性。我们还展示了一些关键设计原则，用于将机器学习和用于解决PDE的数值方法结合使用。
translated by 谷歌翻译
我们使用生成的对抗网络（GaN）展示了一种数学上良好的湍流模型的合成建模方法。基于对遍历性的混沌，确定性系统的分析，我们概述了一个数学证据，即GaN实际上可以学习采样状态快照，从而形成混沌系统的不变度量。基于该分析，我们研究了从Lorenz吸引子开始的混沌系统的层次，然后继续与GaN的湍流模拟。作为培训数据，我们使用从大型涡流模拟（LES）获得的速度波动领域。详细研究了两种建筑：我们使用深卷积的GaN（DCGAN）来合成圆柱周围的湍流。我们还使用PIX2PIXHD架构模拟低压涡轮定子围绕的流量，用于条件DCGAN在定子前方的旋转唤醒位置上调节。解释了对抗性培训的设置和使用特定GAN架构的影响。从而表明，GaN在技术上挑战流动问题的基础上的训练日期是有效的模拟湍流。与经典的数值方法，特别是LES相比，GaN训练和推理时间显着下降，同时仍然在高分辨率下提供湍流流动。
translated by 谷歌翻译