由于固有的DNN预测误差，确保解决方案可行性是开发用于解决受约束优化问题的深度神经网络（DNN）方案的关键挑战。在本文中，我们提出了一种“预防性学习”的框架，以系统地保证DNN解决方案可行性的凸起约束和一般客观函数的问题。我们首先应用预测和重建设计，不仅保证平等约束，还可以利用它们来减少DNN预测的变量的数量。然后，作为关键方法贡献，我们系统地校准了DNN训练中使用的不等式约束，从而预测预测误差并确保所得到的解决方案仍然可行。我们表征校准量大和DNN尺寸，足以确保通用可行性。我们提出了一种新的敌对样本意识到培训算法，以改善DNN的最优性能而不牺牲可行性保证。总的来说，该框架提供了两个DNN。表征足够的DNN大小的第一个可以保证通用可行性，而来自所提出的培训算法的另一个进一步提高了最优性并同时保持DNN的通用可行性。我们应用预防性学习框架来开发Deepopf +，以解决网格运行中的基本DC最佳功率流量问题。它在确保在轻负载和重载制度中的可行性和获得一致的理想加速性能时，它可以改善现有的基于DNN的方案。仿真结果对IEEE案例-30 / 118/300测试用例显示DeepoPF +与最优性损失的最优损失和最高幅度计算加速度为100 \％$ 0.5％的可行解决方案，相比之下艺术迭代求解器。

可再生能源世代的高百分比渗透对电力系统引起了重大不确定性。它要求网格操作员更频繁地解决替代电流最佳功率流（AC-OPF）问题，以便在传输和分配网格中进行经济和可靠的操作。在本文中，我们开发了一种Deep神经网络（DNN）方法，称为DEEPOPF，用于在传统求解器使用的时间中解决AC-OPF问题。应用机器学习技术解决AC-OPF问题的关键困难在于确保获得的解决方案尊重平等和不平等的物理和操作约束。在[1]，[2]中概括了2阶段的过程，DEEPOPF首先训练DNN模型，以预测一组独立的操作变量，然后通过求解功率流方程直接计算剩余的可靠性变量。这种方法不仅保留了平衡平等的限制，而且还减少了DNN预测的变量数量，从而减少了所需的神经元和训练数据的数量。然后，DeePOPF在培训过程中采用零级梯度估计技术采用惩罚方法，以保留其余的不平等约束。作为另一个贡献，我们根据所需的近似精度来驱动调整DNN的大小的条件，该准确性测量了DNN的概括能力。它为使用DNN解决AC-OPF问题提供了理论上的理由。 IEEE 30/118/300-BU和合成2000总线测试用例的仿真结果表明，与最先进的求解器相比，DEEPOPF最多将计算时间速度高达两个数量级，费用为费用$ <$ <$ 0.1％的成本差异。

本文介绍了一个框架，以捕获先前棘手的优化约束，并通过使用神经网络将其转换为混合构成线性程序。我们编码以可拖动和顽固的约束为特征的优化问题的可行空间，例如微分方程，转到神经网络。利用神经网络的精确混合重新印象，我们解决了混合企业线性程序，该程序将解决方案准确地近似于最初棘手的非线性优化问题。我们将方法应用于交流最佳功率流问题（AC-OPF），其中直接包含动态安全性约束可使AC-OPF棘手。我们提出的方法具有比传统方法更明显的可扩展性。我们展示了考虑N-1安全性和小信号稳定性的电力系统操作方法，展示了如何有效地获得成本优势的解决方案，同时满足静态和动态安全性约束。

要将计算负担从实时到延迟关键电源系统应用程序的脱机，最近的作品招待使用深神经网络（DNN）的想法来预测一次呈现的AC最佳功率流（AC-OPF）的解决方案负载需求。随着网络拓扑可能改变的，以样本有效的方式训练该DNN成为必需品。为提高数据效率，这项工作利用了OPF数据不是简单的训练标签，而是构成参数优化问题的解决方案。因此，我们倡导培训一个灵敏度通知的DNN（SI-DNN），不仅可以匹配OPF优化器，而且还匹配它们的部分导数相对于OPF参数（负载）。结果表明，所需的雅可比矩阵确实存在于温和条件下，并且可以从相关的原始/双解决方案中容易地计算。所提出的Si-DNN与广泛的OPF溶剂兼容，包括非凸出的二次约束的二次程序（QCQP），其半纤维程序（SDP）放松和MatPower;虽然Si-DNN可以在其他学习到OPF方案中无缝集成。三个基准电源系统的数值测试证实了SI-DNN在传统训练的DNN上预测的OPF解决方案的高级泛化和约束满意度，尤其是在低数据设置中。

Non-convex AC optimal power flow (AC-OPF) is a fundamental optimization problem in power system analysis. The computational complexity of conventional solvers is typically high and not suitable for large-scale networks in real-time operation. Hence, deep learning based approaches have gained intensive attention to conduct the time-consuming training process offline. Supervised learning methods may yield a feasible AC-OPF solution with a small optimality gap. However, they often need conventional solvers to generate the training dataset. This paper proposes an end-to-end unsupervised learning based framework for AC-OPF. We develop a deep neural network to output a partial set of decision variables while the remaining variables are recovered by solving AC power flow equations. The fast decoupled power flow solver is adopted to further reduce the computational time. In addition, we propose using a modified augmented Lagrangian function as the training loss. The multipliers are adjusted dynamically based on the degree of constraint violation. Extensive numerical test results corroborate the advantages of our proposed approach over some existing methods.

非凸AC-OPF问题的多个负载分解映射的存在对深神经网络（DNN）方案构成了根本挑战。由于训练数据集可能包含与不同负载分解映射相对应的数据点的混合物，因此DNN可能无法学习合法的映射并生成劣质解决方案。我们建议DeepOpf-al作为解决此问题的增强学习方法。这个想法是训练DNN，以学习从增强输入（即（负载，初始点））的唯一映射到由具有负载和初始点作为进气口的迭代OPF求解器生成的解决方案。然后，我们将学习的增强映射应用于求解AC-OPF问题的速度要快得多。与最近的DNN方案相比，IEEE测试案例的模拟结果表明，DeepOPF-AL可以明显地取得更好的最优性和相似的可行性和加速性能，具有相同的DNN大小却提高了训练的复杂性。

Machine learning (ML) algorithms are remarkably good at approximating complex non-linear relationships. Most ML training processes, however, are designed to deliver ML tools with good average performance, but do not offer any guarantees about their worst-case estimation error. For safety-critical systems such as power systems, this places a major barrier for their adoption. So far, approaches could determine the worst-case violations of only trained ML algorithms. To the best of our knowledge, this is the first paper to introduce a neural network training procedure designed to achieve both a good average performance and minimum worst-case violations. Using the Optimal Power Flow (OPF) problem as a guiding application, our approach (i) introduces a framework that reduces the worst-case generation constraint violations during training, incorporating them as a differentiable optimization layer; and (ii) presents a neural network sequential learning architecture to significantly accelerate it. We demonstrate the proposed architecture on four different test systems ranging from 39 buses to 162 buses, for both AC-OPF and DC-OPF applications.

人工神经网络（ANN）训练景观的非凸起带来了固有的优化困难。虽然传统的背传播随机梯度下降（SGD）算法及其变体在某些情况下是有效的，但它们可以陷入杂散的局部最小值，并且对初始化和普通公共表敏感。最近的工作表明，随着Relu激活的ANN的培训可以重新重整为凸面计划，使希望能够全局优化可解释的ANN。然而，天真地解决凸训练制剂具有指数复杂性，甚至近似启发式需要立方时间。在这项工作中，我们描述了这种近似的质量，并开发了两个有效的算法，这些算法通过全球收敛保证培训。第一算法基于乘法器（ADMM）的交替方向方法。它解决了精确的凸形配方和近似对应物。实现线性全局收敛，并且初始几次迭代通常会产生具有高预测精度的解决方案。求解近似配方时，每次迭代时间复杂度是二次的。基于“采样凸面”理论的第二种算法更简单地实现。它解决了不受约束的凸形制剂，并收敛到大约全球最佳的分类器。当考虑对抗性培训时，ANN训练景观的非凸起加剧了。我们将稳健的凸优化理论应用于凸训练，开发凸起的凸起制剂，培训Anns对抗对抗投入。我们的分析明确地关注一个隐藏层完全连接的ANN，但可以扩展到更复杂的体系结构。

本文研究了如何训练直接近似约束优化问题的最佳解决方案的机器学习模型。这是在约束下的经验风险最小化，这是具有挑战性的，因为培训必须平衡最佳和可行性条件。监督学习方法通​​常通过在大量预处理实例中训练模型来应对这一挑战。本文采用了不同的途径，并提出了原始偶尔学习的想法（PDL），这是一种自我监督的培训方法，不需要一组预处理的实例或用于培训和推理的优化求解器。取而代之的是，PDL模拟了增强拉格朗日方法（ALM）的轨迹，并共同训练原始和双神经网络。作为一种原始的双重方法，PDL使用用于训练原始网络的损失函数中的约束项的实例特定惩罚。实验表明，在一组非线性优化基准上，PDL通常表现出可忽略的约束违规和较小的最佳差距，并且非常接近ALM优化。与现有方法相比，PDL在最佳差距，约束违规和培训时间方面还表现出改善或类似的性能。

最佳功率流（OPF）是电力系统中的一个基本问题。它是计算的具有挑战性，最近的研究已经建议使用深神经网络（DNN）在与通过经典优化方法获得的那些相比时在大大降低的运行时找到OPF近似。虽然这些作品表明，令人鼓舞的准确性和运行时的结果，但对于为什么这些模型可以准确地预测OPF解决方案以及宽大的鲁棒性，而令人愉快的结果。本文提供了解决这种知识差距的前进。该纸张将发电机输出的波动性连接到学习模型近似对象的能力，它阐明了影响DNN模型的特征来学习良好的预测因子，并提出了一种利用此目的观察的新模型纸张生产精确且强大的opf预测。

这项工作将重新审视关节波束形成（BF）和天线选择（AS）问题，以及其在不完美的通道状态信息（CSI）下的稳健光束成型（RBF）版本。在射频链的数量（RF）链的数量小于发射器上的天线元件的情况下，出现了此类问题，这已成为大型阵列时代的关键考虑。关节（r）bf \＆作为问题是一个混合整数和非线性程序，因此发现{\ it最佳解决方案}通常是昂贵的，即使不是完全不可能。绝大多数先前的作品都使用基于连续优化的近似来解决这些问题 - 但是这些近似不能确保解决方案的最佳性甚至可行性。这项工作的主要贡献是三倍。首先，提出了一个有效的{\ it分支和绑定}（b \＆b）解决感兴趣问题的框架。利用现有的BF和RBF求解器，表明B \＆B框架保证了所考虑的问题的全球最优性。其次，为了加快潜在昂贵的B \＆B算法，提出了一种基于机器学习（ML）的方案，以帮助跳过B \＆B搜索树的中间状态。学习模型具有{\ it图形神经网络}（GNN）的设计，该设计对无线通信中通常遇到的挑战有抵抗力，即，培训和测试中问题大小的变化（例如，用户数量）的变化（例如，用户数量）阶段。第三，提出了全面的性能特征，表明基于GNN的方法在合理的条件下保留了B \＆B的全球最佳性，其复杂性可降低。数值模拟还表明，基于ML的加速度通常可以相对于B \＆b实现速度的速度。

我们考虑非线性优化问题，涉及神经网络代表代理模型。我们首先展示了如何直接将神经网络评估嵌入优化模型中，突出难以防止收敛的方法，然后表征这些模型的平稳性。然后，我们在具有Relu激活的前馈神经网络的特定情况下存在两种替代配方，其具有recu激活：作为混合整数优化问题，作为具有互补限制的数学程序。对于后一种制剂，我们证明了在该问题的点处的有同性，对应于嵌入式制剂的实质性。这些配方中的每一个都可以用最先进的优化方法来解决，并且我们展示了如何为这些方法获得良好的初始可行解决方案。我们将三种实际应用的配方进行比较，在燃烧发动机的设计和控制中产生的三种实际应用，在对分类器网络的对抗攻击中产生的产生，以及在油井网中的最佳流动确定。

由于负载和可再生能源的不确定性日益增长，对现代电网的安全和最佳运行产生了突出的挑战。随机最佳功率流（SOPF）制剂提供了一种通过计算在不确定性下保持可行性的派遣决策和控制政策来处理这些不确定性的机制。大多数SOPF配方考虑了简单的控制策略，例如数学上简单的仿射策略，类似于当前实践中使用的许多策略。通过机器学习（ML）算法的功效和一般控制政策的潜在好处的效果，我们提出了一个深度神经网络（DNN）基础的政策，该政策是实时预测发电机调度决策的不确定。使用解决SOPF的随机原始双重更新来学习DNN的权重，而无需先前一代训练标签，并且可以明确地解释SOPF中的可行性约束。 DNN政策对更简单的政策和它们在执行安全限制和产生附近的近最佳解决方案中的功效的优点在于机会在许多测试用例上受到限制的制定的情况下。

这项工作解决了逆线优化，其中目标是推断线性程序的未知成本向量。具体地，我们考虑数据驱动的设置，其中可用数据是对应于线性程序的不同实例的最佳解决方案的嘈杂的观察。我们介绍了一个问题的新配方，与其他现有方法相比，允许恢复较少的限制性和一般更适当的可允许成本估算。可以表明，该逆优化问题产生有限数量的解决方案，并且我们开发了一个精确的两相算法来确定所有此类解决方案。此外，我们提出了一种有效的分解算法来解决问题的大实例。该算法自然地扩展到在线学习环境，可以用于提供成本估计的快速更新，因为新数据随着时间的推移可用。对于在线设置，我们进一步开发了一种有效的自适应采样策略，指导下一个样本的选择。所提出的方法的功效在涉及两种应用，客户偏好学习和生产计划的成本估算的计算实验中进行了证明。结果表明计算和采样努力的显着减少。

到2035年，美国电力部门的转型正在进行中，以实现100％无碳污染的电力，以实现这一目标，同时保持安全可靠的电网，需要新的操作范式，以快速准确的决策来制定新的操作范式在动态和不确定的环境中。我们为动态网格重新配置（PHML-DYR）的决策提出了一个新颖的物理知识的机器学习框架，这是电源系统中的关键任务。动态重新配置（DYR）是一个动态设置开关状态的过程，从而导致最佳网格拓扑，从而最大程度地减少线路损耗。为了解决由于决策变量的混合性质而导致的NP硬度的潜在计算复杂性，我们建议使用物理信息信息的ML（PHML），该物理信息（PHML）将操作约束以及拓扑结构和连接性约束集成到神经网络框架中。我们的PHML方法学会同时优化网格拓扑和发电机调度，以满足负载，提高效率并保持在安全的操作范围内。我们证明了PHML-DYR在规范网格上的有效性，显示电力损耗的减少23％，并改善了电压曲线。我们还显示了使用PHML-DYR的数量级以及训练时间的约束违规行为的减少。

增强现有传输线是对抗传输拥塞并保证传输安全性随需求增加并增强可再生能源的有用工具。这项研究涉及选择其容量应扩大的线路的选择，以及从独立系统操作员（ISO）的角度来看，通过考虑传输线约束以及发电和需求平衡条件，并结合坡道 - 上升和启动坡道率，关闭坡道速率，坡度降低率限制以及最小降低时间。为此，我们开发了ISO单元承诺和经济调度模型，并将其作为混合整数线性编程（MILP）问题的右侧不确定性多个参数分析。我们首先放松二进制变量，以连续变量并采用拉格朗日方法和Karush-Kuhn-Tucker条件，以获得最佳的解决方案（最佳决策变量和目标函数）以及与主动和无效约束相关的关键区域。此外，我们通过确定每个节点处的问题上限，然后比较上限和下限之间的差异，并在决策制造商中达到近似最佳解决方案，从而扩展传统分支和界限方法，以解决大规模MILP问题。可耐受的误差范围。另外，目标函数在每行参数上的第一个衍生物用于告知各行的选择，以简化拥塞和最大化社会福利。最后，通过平衡目标函数的成本率和阵容升级成本来选择容量升级的量。我们的发现得到了数值模拟的支持，并为传输线计划提供了决策指导。

Unit commitment (UC) are essential tools to transmission system operators for finding the most economical and feasible generation schedules and dispatch signals. Constraint screening has been receiving attention as it holds the promise for reducing a number of inactive or redundant constraints in the UC problem, so that the solution process of large scale UC problem can be accelerated by considering the reduced optimization problem. Standard constraint screening approach relies on optimizing over load and generations to find binding line flow constraints, yet the screening is conservative with a large percentage of constraints still reserved for the UC problem. In this paper, we propose a novel machine learning (ML) model to predict the most economical costs given load inputs. Such ML model bridges the cost perspectives of UC decisions to the optimization-based constraint screening model, and can screen out higher proportion of operational constraints. We verify the proposed method's performance on both sample-aware and sample-agnostic setting, and illustrate the proposed scheme can further reduce the computation time on a variety of setup for UC problems.

影响模型预测控制（MPC）策略的神经网络（NN）近似的常见问题是缺乏分析工具来评估基于NN的控制器的动作下闭环系统的稳定性。我们介绍了一种通用过程来量化这种控制器的性能，或者设计具有整流的线性单元（Relus）的最小复杂性NN，其保留给定MPC方案的理想性质。通过量化基于NN和基于MPC的状态到输入映射之间的近似误差，我们首先建立适当的条件，涉及两个关键量，最坏情况误差和嘴唇截止恒定，保证闭环系统的稳定性。然后，我们开发了一个离线，混合整数的基于优化的方法，以确切地计算这些数量。这些技术共同提供足以认证MPC控制法的基于Relu的近似的稳定性和性能的条件。

我们提出了一个框架，用于稳定验证混合智能线性编程（MILP）代表控制策略。该框架比较了固定的候选策略，该策略承认有效的参数化，可以以低计算成本进行评估，与固定基线策略进行评估，固定基线策略已知稳定但评估昂贵。我们根据基线策略的最坏情况近似错误为候选策略的闭环稳定性提供了足够的条件，我们表明可以通过求解混合构成二次计划（MIQP）来检查这些条件。 。此外，我们证明可以通过求解MILP来计算候选策略的稳定区域的外部近似。所提出的框架足以容纳广泛的候选策略，包括Relu神经网络（NNS），参数二次程序的最佳解决方案图以及模型预测性控制（MPC）策略。我们还根据提议的框架在Python中提供了一个开源工具箱，该工具可以轻松验证自定义NN架构和MPC公式。我们在DC-DC电源转换器案例研究的背景下展示了框架的灵活性和可靠性，并研究了计算复杂性。

组合优化是运营研究和计算机科学领域的一个公认领域。直到最近，它的方法一直集中在孤立地解决问题实例，而忽略了它们通常源于实践中的相关数据分布。但是，近年来，人们对使用机器学习，尤其是图形神经网络（GNN）的兴趣激增，作为组合任务的关键构件，直接作为求解器或通过增强确切的求解器。GNN的电感偏差有效地编码了组合和关系输入，因为它们对排列和对输入稀疏性的意识的不变性。本文介绍了对这个新兴领域的最新主要进步的概念回顾，旨在优化和机器学习研究人员。