This paper provides an introduction and overview of recent work on control barrier functions and their use to verify and enforce safety properties in the context of (optimization based) safety-critical controllers. We survey the main technical results and discuss applications to several domains including robotic systems.

Safety critical systems involve the tight coupling between potentially conflicting control objectives and safety constraints. As a means of creating a formal framework for controlling systems of this form, and with a view toward automotive applications, this paper develops a methodology that allows safety conditions-expressed as control barrier functionsto be unified with performance objectives-expressed as control Lyapunov functions-in the context of real-time optimizationbased controllers. Safety conditions are specified in terms of forward invariance of a set, and are verified via two novel generalizations of barrier functions; in each case, the existence of a barrier function satisfying Lyapunov-like conditions implies forward invariance of the set, and the relationship between these two classes of barrier functions is characterized. In addition, each of these formulations yields a notion of control barrier function (CBF), providing inequality constraints in the control input that, when satisfied, again imply forward invariance of the set. Through these constructions, CBFs can naturally be unified with control Lyapunov functions (CLFs) in the context of a quadratic program (QP); this allows for the achievement of control objectives (represented by CLFs) subject to conditions on the admissible states of the system (represented by CBFs). The mediation of safety and performance through a QP is demonstrated on adaptive cruise control and lane keeping, two automotive control problems that present both safety and performance considerations coupled with actuator bounds.

平衡安全性和性能是现代控制系统设计中的主要挑战之一。此外，至关重要的是，在不诱导不必要的保守性降低绩效的情况下，确保安全至关重要。在这项工作中，我们提出了一种通过控制屏障功能（CBF）来进行安全关键控制合成的建设性方法。通过通过CBF过滤手工设计的控制器，我们能够达到性能行为，同时提供严格的安全保证。面对干扰，通过投入到国家安全的概念（ISSF）同时实现了稳健的安全性和性能。我们通过与倒置的示例同时开发CBF设计方法来采用教程方法，从而使设计过程混凝土中的挑战和敏感性。为了确定拟议方法的能力，我们考虑通过CBFS以无需拖车的8级卡车的形式来考虑通过CBF的CBF进行安全至关重要的设计。通过实验，我们看到了卡车驱动系统中未建模的干扰对CBF提供的安全保证的影响。我们表征了这些干扰并使用ISSF，生产出可靠的控制器，该控制器可以在不承认性能的情况下实现安全性。我们在模拟中评估了我们的设计，并且是在实验中首次在汽车系统上评估我们的设计。

Learning-enabled control systems have demonstrated impressive empirical performance on challenging control problems in robotics, but this performance comes at the cost of reduced transparency and lack of guarantees on the safety or stability of the learned controllers. In recent years, new techniques have emerged to provide these guarantees by learning certificates alongside control policies -- these certificates provide concise, data-driven proofs that guarantee the safety and stability of the learned control system. These methods not only allow the user to verify the safety of a learned controller but also provide supervision during training, allowing safety and stability requirements to influence the training process itself. In this paper, we provide a comprehensive survey of this rapidly developing field of certificate learning. We hope that this paper will serve as an accessible introduction to the theory and practice of certificate learning, both to those who wish to apply these tools to practical robotics problems and to those who wish to dive more deeply into the theory of learning for control.

这项工作为时间延迟系统的安全关键控制提供了一个理论框架。控制屏障功能的理论可为无延迟系统提供正式安全保证，扩展到具有状态延迟的系统。引入了控制屏障功能的概念，以实现正式的安全保证，该概念通过在无限尺寸状态空间中定义的安全集的向前不变性。所提出的框架能够在动态和安全状态下处理多个延迟和分布式延迟，并对可证明安全性的控制输入提供了仿射约束。该约束可以纳入优化问题，以合成最佳和可证明的安全控制器。该方法的适用性通过数值仿真示例证明。

本文介绍了机器人系统的安全关键控制的框架，当配置空间中的安全区域上定义了安全区域时。为了保持安全性，我们基于控制屏障函数理论综合安全速度而不依赖于机器人的A可能复杂的高保真动态模型。然后，我们跟踪跟踪控制器的安全速度。这使得在无模型安全关键控制中。我们证明了拟议方法的理论安全保障。最后，我们证明这种方法是适用于棘手的。我们在高保真仿真中使用SEGWAY执行障碍避免任务，以及在硬件实验中的无人机和Quadruped。

基于控制屏障功能（CBF）的安全过滤器已成为自治系统安全至关重要控制的实用工具。这些方法通过价值函数编码安全性，并通过对该值函数的时间导数施加限制来执行安全。但是，在存在输入限制的情况下合成并非过于保守的有效CBF是一个臭名昭著的挑战。在这项工作中，我们建议使用正式验证方法提炼候选CBF，以获得有效的CBF。特别是，我们使用基于动态编程（DP）的可及性分析更新专家合成或备份CBF。我们的框架RefineCBF保证，在每次DP迭代中，获得的CBF至少与先前的迭代一样安全，并收集到有效的CBF。因此，RefineCBF可用于机器人系统。我们证明了我们在模拟中使用各种CBF合成技术来增强安全性和/或降低一系列非线性控制型系统系统的保守性的实用性。

本文开发了一种基于模型的强化学习（MBR）框架，用于在线在线学习无限范围最佳控制问题的价值函数，同时遵循表示为控制屏障功能（CBFS）的安全约束。我们的方法是通过开发一种新型的CBFS，称为Lyapunov样CBF（LCBF），其保留CBFS的有益特性，以开发最微创的安全控制政策，同时也具有阳性半自动等所需的Lyapunov样品质 - 义法。我们展示这些LCBFS如何用于增强基于学习的控制策略，以保证安全性，然后利用这种方法在MBRL设置中开发安全探索框架。我们表明，我们的开发方法可以通过各种数值示例来处理比较法的更通用的安全限制。

本文涉及专业示范的学习安全控制法。我们假设系统动态和输出测量图的适当模型以及相应的错误界限。我们首先提出强大的输出控制屏障功能（ROCBF）作为保证安全的手段，通过控制安全集的前向不变性定义。然后，我们提出了一个优化问题，以从展示安全系统行为的专家演示中学习RocBF，例如，从人类运营商收集的数据。随着优化问题，我们提供可验证条件，可确保获得的Rocbf的有效性。这些条件在数据的密度和学习函数的LipsChitz和Lipshitz和界限常数上说明，以及系统动态和输出测量图的模型。当ROCBF的参数化是线性的，然后，在温和的假设下，优化问题是凸的。我们在自动驾驶模拟器卡拉验证了我们的调查结果，并展示了如何从RGB相机图像中学习安全控制法。

In this work, we propose a collision-free source seeking control framework for unicycle robots traversing an unknown cluttered environment. In this framework, the obstacle avoidance is guided by the control barrier functions (CBF) embedded in quadratic programming and the source seeking control relies solely on the use of on-board sensors that measure signal strength of the source. To tackle the mixed relative degree of the CBF, we proposed three different CBF, namely the zeroing control barrier functions (ZCBF), exponential control barrier functions (ECBF), and reciprocal control barrier functions (RCBF) that can directly be integrated with our recent gradient-ascent source-seeking control law. We provide rigorous analysis of the three different methods and show the efficacy of the approaches in simulations using Matlab, as well as, using a realistic dynamic environment with moving obstacles in Gazebo/ROS.

具有安全行为的赋予非线性系统在现代控制中越来越重要。对于必须在动态变化的环境中安全运行的现实生活控制系统，此任务尤其具有挑战性。本文通过建立环境控制障碍功能（ECBFS）的概念，在动态环境中开发了一种安全关键控制框架。即使在输入延迟存在下，该框架也能够保证安全性，通过占系统延迟响应期间环境的演变。潜在的控制合成依赖于预测系统的未来状态和延迟间隔通过延迟间隔，具有稳健的安全保证预测误差。通过简单的自适应巡航控制问题和更复杂的机器人应用在SEGWAY平台上证明了所提出的方法的功效。

控制屏障功能（CBF）已被证明是非线性系统安全至关重要控制器设计的强大工具。现有的设计范式不能解决理论（具有连续时间模型的控制器设计）和实践（所得控制器的离散时间采样实现）之间的差距；这可能导致性能不佳，并且违反了硬件实例化的安全性。我们提出了一种方法，通过将采样DATA对应物合成与这些基于CBF的控制器的方法，使用近似离散的时间模型和采样DATA控制屏障函数（SD-CBFS）。使用系统连续时间模型的属性，我们建立了SD-CBF与采样数据系统的实际安全概念之间的关系。此外，我们构建了基于凸优化的控制器，该控制器正式将非线性系统赋予实践中的安全保证。我们证明了这些控制器在模拟中的功效。

对于多面体之间的障碍物躲避开发的控制器是在狭小的空间导航一个具有挑战性的和必要的问题。传统的方法只能制定的避障问题，因为离线优化问题。为了应对这些挑战，我们提出用非光滑控制屏障功能多面体之间的避障，它可以实时与基于QP的优化问题来解决基于二元安全关键最优控制。一种双优化问题被引入到表示被施加到构造控制屏障功能多面体和用于双形式的拉格朗日函数之间的最小距离。我们验证了避开障碍物与在走廊环境受控的L形（沙发形）机器人建议的双配制剂。据我们所知，这是第一次，实时紧避障与非保守的演习是在移动沙发（钢琴）与非线性动力学问题来实现的。

小型航空车的重量，空间和功率限制通常会阻止现代控制技术的应用，而无需简化大量模型。此外，高速敏捷行为（例如在无人机赛车中表现出来的行为）使这些简化的模型过于不可靠，无法安全至关重要。在这项工作中，我们介绍了时变备份控制器（TBC）的概念：用户指定的操作与备份控制器相结合，该备份控制器生成了参考轨迹，从而确保了非线性系统的安全性。与传统的备份控制器相比，TBC减少了保守主义，可以直接应用于多机构协调以确保安全性。从理论上讲，我们提供了严格减少保守主义的条件，描述了如何在多个TBC之间切换并显示如何将TBC嵌入多代理设置。在实验上，我们验证TBC在过滤飞行员的动作时会安全地增加操作自由，并在将两个四肢的分散安全过滤应用于分散的安全过滤时，证明了稳健性和计算效率。

安全限制和最优性很重要，但有时控制器有时相互冲突的标准。虽然这些标准通常与不同的工具单独解决以维持正式保障，但在惩罚失败时，加强学习的常见做法是惩罚，以惩罚为单纯的启发式。我们严格地检查了安全性和最优性与惩罚的关系，并对安全价值函数进行了足够的条件：对给定任务的最佳价值函数，并强制执行安全约束。我们通过强大的二元性证明，揭示这种关系的结构，表明始终存在一个有限的惩罚，引起安全值功能。这种惩罚并不是独特的，但大不束缚：更大的惩罚不会伤害最优性。虽然通常无法计算最低所需的惩罚，但我们揭示了清晰的惩罚，奖励，折扣因素和动态互动的结构。这种洞察力建议实用，理论引导的启发式设计奖励功能，用于控制安全性很重要的控制问题。

身体机器人的合作需要严格的安全保证，因为机器人和人类在共享工作区中工作。这封信提出了一个新颖的控制框架，以处理针对人类机器人互动的基于安全至关重要的位置的约束。所提出的方法基于入学控制，指数控制屏障功能（ECBF）和二次计划（QP），以在人与机器人之间的力相互作用期间达到合规性，同时保证安全约束。特别是，入学控制的配方被重写为二阶非线性控制系统，并且人与机器人之间的相互作用力被视为控制输入。通过使用欧洲央行-QP框架作为外部人类力量的补偿器，实时提供了用于入学控制的虚拟力反馈。因此，安全轨迹是从建议的低级控制器进行跟踪的建议的自适应入学控制方案中得出的。拟议方法的创新是，拟议的控制器将使机器人能够自然流动性遵守人类力量，而无需违反任何安全限制，即使在人类外部力量偶然迫使机器人违反约束的情况下。在对两链平面机器人操纵器的仿真研究中，我们的方法的有效性得到了证明。

在本文中，我们提出了针对无人接地车辆（UGV）的新的控制屏障功能（CBF），该功能有助于避免与运动学（非零速度）障碍物发生冲突。尽管当前的CBF形式已经成功地保证了与静态障碍物的安全/碰撞避免安全性，但动态案例的扩展已获得有限的成功。此外，借助UGV模型，例如Unicycle或自行车，现有CBF的应用在控制方面是保守的，即在某些情况下不可能进行转向/推力控制。从经典的碰撞锥中汲取灵感来避免轨迹规划，我们介绍了其新颖的CBF配方，并具有对独轮车和自行车模型的安全性保证。主要思想是确保障碍物的速度W.R.T.车辆总是指向车辆。因此，我们构建了一个约束，该约束确保速度向量始终避开指向车辆的向量锥。这种新控制方法的功效在哥白尼移动机器人上进行了实验验证。我们将其进一步扩展到以自行车模型的形式扩展到自动驾驶汽车，并在Carla模拟器中的各种情况下证明了避免碰撞。

神经网络（NNS）已成功地用于代表复杂动力学系统的状态演变。这样的模型，称为NN动态模型（NNDMS），使用NN的迭代噪声预测来估计随时间推移系统轨迹的分布。尽管它们的准确性，但对NNDMS的安全分析仍然是一个具有挑战性的问题，并且在很大程度上尚未探索。为了解决这个问题，在本文中，我们介绍了一种为NNDM提供安全保证的方法。我们的方法基于随机屏障函数，其与安全性的关系类似于Lyapunov功能的稳定性。我们首先展示了通过凸优化问题合成NNDMS随机屏障函数的方法，该问题又为系统的安全概率提供了下限。我们方法中的一个关键步骤是，NNS的最新凸近似结果的利用是找到零件线性边界，这允许将屏障函数合成问题作为一个方形优化程序的制定。如果获得的安全概率高于所需的阈值，则该系统将获得认证。否则，我们引入了一种生成控制系统的方法，该系统以最小的侵入性方式稳健地最大化安全概率。我们利用屏障函数的凸属性来提出最佳控制合成问题作为线性程序。实验结果说明了该方法的功效。即，他们表明该方法可以扩展到具有多层和数百个神经元的多维NNDM，并且控制器可以显着提高安全性概率。

控制屏障功能（CBFS）已成为强制执行控制系统安全的流行工具。CBFS通常用于二次程序配方（CBF-QP）作为安全关键限制。CBFS中的$ \ Mathcal {K} $函数通常需要手动调整，以平衡每个环境的性能和安全之间的权衡。然而，这个过程通常是启发式的并且可以对高相对度系统进行棘手。此外，它可以防止CBF-QP概括到现实世界中的不同环境。通过将CBF-QP的优化过程嵌入深度学习架构中的可差异化层，我们提出了一种可分辨率的优化的安全性关键控制框架，使得具有前向不变性的新环境的泛化。最后，我们在各种环境中使用2D双层集成器系统验证了所提出的控制设计。

本文介绍了可怜的高阶控制屏障功能（CBF），即结束于最终的可训练以及学习系统。CBFS通常是过于保守的，同时保证安全。在这里，我们通过使用环境依赖性软化它们的定义来解决它们的保守性，而不会损失安全保证，并将其嵌入到可分辨率的二次方案中。这些新颖的安全层称为巴里斯网，可以与任何基于神经网络的控制器结合使用，并且可以通过梯度下降训练。Barriernet允许神经控制器的安全约束适应改变环境。我们在一系列控制问题上进行评估，例如2D和3D空间中的交通合并和机器人导航，并与最先进的方法相比，证明其有效性。