用神经网络对物理系统的动力学建模的最新方法强制执行拉格朗日式或哈密顿结构，以改善预测和泛化。但是，当将坐标嵌入高维数据（例如图像）中时，这些方法要么失去解释性，要么只能应用于一个特定示例。我们介绍了一种新的无监督神经网络模型，该模型从图像中学习拉格朗日动态，并具有受益于预测和控制的解释性。该模型在广义坐标上渗透Lagrangian动力学，这些动力学是通过坐标感知的变异自动编码器（VAE）同时学习的。 VAE旨在说明由飞机中多个刚体组成的物理系统的几何形状。通过推断可解释的拉格朗日动力学，该模型学习了物理系统属性，例如动力学和势能，从而可以长期预测图像空间中的动力学和基于能量控制器的合成。

过去几年目睹了在深入学习框架中纳入物理知识的归纳偏见的兴趣增加。特别地，越来越多的文献一直在探索实施能节能的方式，同时使用来自观察时间序列数据的神经网络来学习动态的神经网络。在这项工作中，我们调查了最近提出的节能神经网络模型，包括HNN，LNN，DELAN，SYMODEN，CHNN，CLNN及其变体。我们提供了这些模型背后的理论的紧凑级，并解释了他们的相似之处和差异。它们的性能在4个物理系统中进行了比较。我们指出了利用一些这些节能模型来设计基于能量的控制器的可能性。

在许多现实世界中，当不二维测量值时，可能会提供自由旋转3D刚体（例如卫星）的图像观察。但是，图像数据的高维度排除了学习动力学和缺乏解释性的使用，从而降低了标准深度学习方法的有用性。在这项工作中，我们提出了一个物理知识的神经网络模型，以估计和预测图像序列中的3D旋转动力学。我们使用多阶段预测管道实现了这一目标，该管道将单个图像映射到潜在表示同构为$ \ Mathbf {so}（3）$，从潜在对计算角速度，并使用Hamiltonian Motion使用Hamiltonian运动方程来预测未来的潜在状态博学的哈密顿人的代表。我们证明了方法对新的旋转刚体数据集的功效，该数据集具有旋转立方体和矩形棱镜序列，并具有均匀且不均匀的密度。

我们提出KeyCLD，这是一个从图像中学习拉格朗日动态的框架。学到的关键点代表图像中的语义标志性，可以直接代表状态动力学。将这种状态解释为笛卡尔坐标，并与明确的自动限制相结合，允许用约束的拉格朗日表达动力学。我们的方法显式地对动能和势能进行了建模，从而允许基于能量的控制。我们是第一个从DM_Control Pendulum，Cartpole和Acrobot环境中的图像中展示Lagrangian动力学学习的人。这是从现实世界图像中学习拉格朗日动力学的迈出的一步，因为以前的文学作品仅适用于在空背景上具有单色形状的简约图像。请参阅我们的项目页面以获取代码和其他结果：https：//rdaems.github.io/keycld/

机器人动态的准确模型对于新颖的操作条件安全和稳定控制和概括至关重要。然而，即使在仔细参数调谐后，手工设计的模型也可能是不够准确的。这激励了使用机器学习技术在训练集的状态控制轨迹上近似机器人动力学。根据其SE（3）姿势和广义速度，并满足能量原理的保护，描述了许多机器人的动态，包括地面，天线和水下车辆。本文提出了在神经常规差分方程（ODE）网络结构的SE（3）歧管上的HamiltonIAN制剂，以近似刚体的动态。与黑匣子颂网络相比，我们的配方通过施工保证了总节能。我们为学习的学习，潜在的SE（3）Hamiltonian动力学开发能量整形和阻尼注射控制，以实现具有各种平台的稳定和轨迹跟踪的统一方法，包括摆锤，刚体和四极其系统。

学习动态是机器学习（ML）的许多重要应用的核心，例如机器人和自主驾驶。在这些设置中，ML算法通常需要推理使用高维观察的物理系统，例如图像，而不访问底层状态。最近，已经提出了几种方法将从经典机制的前沿集成到ML模型中，以解决图像的物理推理的挑战。在这项工作中，我们清醒了这些模型的当前功能。为此，我们介绍一套由17个数据集组成的套件，该数据集基于具有呈现各种动态的物理系统的视觉观测。我们对几种强大的基线进行了彻底的和详细比较了物理启发方法的主要类别。虽然包含物理前沿的模型通常可以学习具有所需特性的潜在空间，但我们的结果表明这些方法无法显着提高标准技术。尽管如此，我们发现使用连续和时间可逆动力学的使用效益所有课程的模型。

合并适当的归纳偏差在从数据的学习动态中发挥着关键作用。通过将拉格朗日或哈密顿的动态编码到神经网络架构中，越来越多的工作已经探索了在学习动态中实施节能的方法。这些现有方法基于微分方程，其不允许州中的不连续性，从而限制了一个人可以学习的系统。然而，实际上，大多数物理系统，例如腿机器人和机器人操纵器，涉及联系和碰撞，这在各州引入了不连续性。在本文中，我们介绍了一种可微分的接触型号，可以捕获接触机械：无摩擦/摩擦，以及弹性/无弹性。该模型还可以适应不等式约束，例如关节角度的限制。拟议的联系模式通过允许同时学习联系和系统性质来扩展拉格朗日和哈密顿神经网络的范围。我们在具有不同恢复系数和摩擦系数的一系列具有挑战性的2D和3D物理系统上展示了这一框架。学习的动态可以用作用于下游梯度的优化任务的可分解物理模拟器，例如规划和控制。

深度学习模型能够近似一个特定的动力系统，但在学习通用动力学方面挣扎，在该动态系统中，动态系统遵守了相同的物理定律，但包含不同数量的元素（例如，双重和三铅系统）。为了缓解这个问题，我们提出了模块化拉​​格朗日网络（ModLanet），这是一个具有模块化和物理诱导偏置的结构神经网络框架。该框架使用模块化对每个元素的能量进行建模，然后通过拉格朗日力学构建目标动态系统。模块化有益于重复训练的网络和减少网络和数据集的规模。结果，我们的框架可以从更简单的系统的动力学中学习，并扩展到更复杂的框架，使用其他相关的物理信息神经网络是不可行的。我们研究了使用小型培训数据集建模双体螺旋形或三体系统的框架，与同行相比，我们的模型实现了最佳的数据效率和准确性性能。我们还将模型重新组织为建模多体型和多体系统的扩展，展示了我们框架的可重复使用功能。

最近提出的一类模型试图使用哈密顿力学所通知的前沿，从高维观察中学习潜在动态的潜在动态。虽然这些模型在机器人或自主驾驶等领域具有重要潜在应用，但目前没有好方法来评估它们的性能：现有方法主要依赖于图像重建质量，这并不总是反映学习潜在动态的质量。在这项工作中，我们经验突出了现有措施的问题，并制定了一套新措施，包括依赖母亲哈密顿动态的二进制指标，我们称之为符号度量或次称。我们的措施利用了汉密尔顿动态的已知属性，并且更符合模型捕获潜在动态的能力而不是重建误差。使用Symetric，我们识别一组架构选择，可以显着提高先前提出的模型的性能，用于从像素，Hamiltonian生成网络（HGN）从像素推断潜在动态。与原始HGN不同，新的HGN ++能够在某些数据集中发现具有物理有意义的潜伏的可解释的相位空间。此外，它在不同范围的13个数据集上的卷展栏上是稳定的，在一个不同的13个数据集上产生基本上无限长度的卷展栏，在数据集的子集上没有质量下降。

动态系统参见在物理，生物学，化学等自然科学中广泛使用，以及电路分析，计算流体动力学和控制等工程学科。对于简单的系统，可以通过应用基本物理法来导出管理动态的微分方程。然而，对于更复杂的系统，这种方法变得非常困难。数据驱动建模是一种替代范式，可以使用真实系统的观察来了解系统的动态的近似值。近年来，对数据驱动的建模技术的兴趣增加，特别是神经网络已被证明提供了解决广泛任务的有效框架。本文提供了使用神经网络构建动态系统模型的不同方式的调查。除了基础概述外，我们还审查了相关的文献，概述了这些建模范式必须克服的数值模拟中最重要的挑战。根据审查的文献和确定的挑战，我们提供了关于有前途的研究领域的讨论。

物理学的美在于，通常在变化的系统（称为运动常数）中保守数量。找到运动的常数对于理解系统的动力学很重要，但通常需要数学水平和手动分析工作。在本文中，我们提出了一个神经网络，该网络可以同时了解系统的动力学和来自数据的运动常数。通过利用发现的运动常数，它可以对动态产生更好的预测，并且可以比基于哈密顿的神经网络在更广泛的系统上工作。此外，我们方法的训练进展可以用作系统中运动常数数量的指示，该系统可用于研究新型物理系统。

能量保护是许多物理现象和动态系统的核心。在过去的几年中，有大量作品旨在预测使用神经网络的动力系统运动轨迹，同时遵守能源保护法。这些作品中的大多数受到古典力学的启发，例如哈密顿和拉格朗日力学以及神经普通微分方程。尽管这些作品已被证明在特定领域中分别很好地工作，但缺乏统一的方法，该方法通常不适用，而无需对神经网络体系结构进行重大更改。在这项工作中，我们旨在通过提供一种简单的方法来解决此问题，该方法不仅可以应用于能源持持势的系统，还可以应用于耗散系统，通过在不同情况下以不同的情况在不同情况下以正规化术语形式包括不同的归纳偏见。损失功能。所提出的方法不需要更改神经网络体系结构，并且可以构成验证新思想的基础，因此表明有望在这个方向上加速研究。

We introduce Embed to Control (E2C), a method for model learning and control of non-linear dynamical systems from raw pixel images. E2C consists of a deep generative model, belonging to the family of variational autoencoders, that learns to generate image trajectories from a latent space in which the dynamics is constrained to be locally linear. Our model is derived directly from an optimal control formulation in latent space, supports long-term prediction of image sequences and exhibits strong performance on a variety of complex control problems.

稳定性和安全性是成功部署自动控制系统的关键特性。作为一个激励示例，请考虑在复杂的环境中自动移动机器人导航。概括到不同操作条件的控制设计需要系统动力学模型，鲁棒性建模错误以及对安全\ newzl {约束}的满意度，例如避免碰撞。本文开发了一个神经普通微分方程网络，以从轨迹数据中学习哈密顿系统的动态。学识渊博的哈密顿模型用于合成基于能量的被动性控制器，并分析其\ emph {鲁棒性}，以在学习模型及其\ emph {Safety}中对环境施加的约束。考虑到系统的所需参考路径，我们使用虚拟参考调查员扩展了设计，以实现跟踪控制。州长国家是一个调节点，沿参考路径移动，平衡系统能级，模型不确定性界限以及违反安全性的距离，以确保稳健性和安全性。我们的哈密顿动力学学习和跟踪控制技术在\修订后的{模拟的己谐和四型机器人}在混乱的3D环境中导航。

我们为高维顺序数据提出了深度潜在的变量模型。我们的模型将潜在空间分解为内容和运动变量。为了模拟多样化的动态，我们将运动空间分成子空间，并为每个子空间引入一个独特的哈密顿运算符。Hamiltonian配方提供可逆动态，学习限制运动路径以保护不变性属性。运动空间的显式分裂将哈密顿人分解成对称组，并提供动态的长期可分离性。这种拆分也意味着可以学习的表示，这很容易解释和控制。我们展示了我们模型来交换两个视频的运动，从给定的图像和无条件序列生成产生各种动作的序列。

Incorporating prior knowledge of physics laws and structural properties of dynamical systems into the design of deep learning architectures has proven to be a powerful technique for improving their computational efficiency and generalization capacity. Learning accurate models of robot dynamics is critical for safe and stable control. Autonomous mobile robots, including wheeled, aerial, and underwater vehicles, can be modeled as controlled Lagrangian or Hamiltonian rigid-body systems evolving on matrix Lie groups. In this paper, we introduce a new structure-preserving deep learning architecture, the Lie group Forced Variational Integrator Network (LieFVIN), capable of learning controlled Lagrangian or Hamiltonian dynamics on Lie groups, either from position-velocity or position-only data. By design, LieFVINs preserve both the Lie group structure on which the dynamics evolve and the symplectic structure underlying the Hamiltonian or Lagrangian systems of interest. The proposed architecture learns surrogate discrete-time flow maps instead of surrogate vector fields, which allows better and faster prediction without requiring the use of a numerical integrator, neural ODE, or adjoint techniques. Furthermore, the learnt discrete-time dynamics can be combined seamlessly with computationally scalable discrete-time (optimal) control strategies.

根据数据得出的模型的顺序/维度通常受观测值的数量或受监视系统（传感节点）的上下文的限制。对于结构系统（例如，民用或机械结构）尤其如此，这通常是高维本质上的。在物理知识的机器学习范围内，本文提出了一个框架（称为神经模态odes），以将基于物理学的建模与深度学习（尤其是神经通用差分方程 - 神经odes）整合在一起，以建模受监视和高的动态。 - 维工程系统。在这种启动探索中，我们将自己限制在线性或轻度非线性系统中。我们提出了一种结构，该体系结构将变异自动编码器的动态版本与物理信息的神经odes（Pi-神经odes）融合在一起。作为自动编码器的一部分，编码器从观测数据的前几个项目到潜在变量的初始值学习了抽象映射，从而驱动通过物理知识的神经odes学习嵌入式动力学，并施加\ textit {模态模型}该潜在空间的结构。所提出的模型的解码器采用了从应用于基于物理学模型的线性化部分的本征分析中得出的本征模：一种隐含携带自由度（DOFS）之间的空间关系的过程。该框架在数值示例中得到了验证，以及一个缩放的电缆固定桥的实验数据集，在该数据集中，学到的混合模型被证明胜过纯粹基于物理的建模方法。我们进一步显示了在虚拟传感的上下文中，即从空间稀疏数据中恢复了未衡量的DOF中的广义响应量。

Lagrangian和Hamiltonian神经网络（分别是LNN和HNN）编码强诱导偏见，使它们能够显着优于其他物理系统模型。但是，到目前为止，这些模型大多仅限于简单的系统，例如摆和弹簧或单个刚体的身体，例如陀螺仪或刚性转子。在这里，我们提出了一个拉格朗日图神经网络（LGNN），可以通过利用其拓扑来学习刚体的动态。我们通过学习以刚体为刚体的棒的绳索，链条和桁架的动力学来证明LGNN的性能。 LGNN还表现出普遍性 - 在链条上训练了一些细分市场的LGNN具有概括性，以模拟具有大量链接和任意链路长度的链条。我们还表明，LGNN可以模拟看不见的混合动力系统，包括尚未接受过培训的酒吧和链条。具体而言，我们表明LGNN可用于建模复杂的现实世界结构的动力学，例如紧张结构的稳定性。最后，我们讨论了质量矩阵的非对角性性质及其在复杂系统中概括的能力。

在未知环境中安全的自主导航是地面，空中和水下机器人的重要问题。本文提出了从轨迹数据中学习移动机器人动力学模型的技术，并通过安全性和稳定性综合跟踪控制器。移动机器人的状态通常包含其位置，方向和广义速度，并满足汉密尔顿的运动方程。我们使用状态控制轨迹的数据集来培训表示作为神经普通微分方程（ODE）网络的转换式非线性非线性汉密尔顿模型。学习的哈密尔顿模型用于合成能量整形的基于能量的控制器和导出的条件，保证安全调节到所需的参考姿势。最后，我们能够通过从障碍物距离测量获得的安全约束来实现所需路径的自适应跟踪。系统能量水平与安全约束违规距离之间的权衡用于自适应地沿着所需路径的参考姿势。我们的安全自适应控制器是在未知复杂环境中导航的模拟的十六轨机器人。

Recently, graph neural networks have been gaining a lot of attention to simulate dynamical systems due to their inductive nature leading to zero-shot generalizability. Similarly, physics-informed inductive biases in deep-learning frameworks have been shown to give superior performance in learning the dynamics of physical systems. There is a growing volume of literature that attempts to combine these two approaches. Here, we evaluate the performance of thirteen different graph neural networks, namely, Hamiltonian and Lagrangian graph neural networks, graph neural ODE, and their variants with explicit constraints and different architectures. We briefly explain the theoretical formulation highlighting the similarities and differences in the inductive biases and graph architecture of these systems. We evaluate these models on spring, pendulum, gravitational, and 3D deformable solid systems to compare the performance in terms of rollout error, conserved quantities such as energy and momentum, and generalizability to unseen system sizes. Our study demonstrates that GNNs with additional inductive biases, such as explicit constraints and decoupling of kinetic and potential energies, exhibit significantly enhanced performance. Further, all the physics-informed GNNs exhibit zero-shot generalizability to system sizes an order of magnitude larger than the training system, thus providing a promising route to simulate large-scale realistic systems.