在自动水下车辆（AUV）的设计过程中，压力容器具有关键作用。压力容器中包含干电子，电源和其他无法淹没的传感器。压力容器设计的传统设计方法涉及基于多个有限元分析（FEA）模拟并优化设计以找到满足需求的最佳设计。对于任何优化过程，运行这些夫妇在计算上都是非常昂贵的，而且很难进行数百个评估。在这种情况下，更好的方法是替代设计，目的是用一些基于学习的回归剂代替基于FEA的预测。一旦对一类问题进行了替代训练，就可以使用学习的响应表面来分析应力效应，而无需为该类别的问题运行FEA。为一类问题创建替代的挑战是数据生成。由于该过程的计算成本高昂，因此不可能密集采样设计空间，并且稀疏数据集上的学习响应表面变得困难。在实验过程中，我们观察到，基于深度学习的替代物在此类稀疏数据上优于其他回归模型。在目前的工作中，我们正在利用基于深度学习的模型来替换昂贵的有限元分析模拟过程。通过创建代理，我们可以比直接有限元分析更快地提高其他设计的预测。我们还将基于DL的替代物与基于其他经典机器学习（ML）回归模型（随机森林和梯度增强回归器）进行了比较。我们在稀疏数据上观察到，基于DL的替代物的性能要比其他回归模型好得多。

设计廉价的近似替代模型，该模型捕获昂贵的高保真行为的显着特征是设计优化的一种普遍方法。最近，深度学习（DL）模型被用作有前途的工程问题替代计算模型。但是，创建基于DL的替代物的主要挑战是模拟/标记大量的设计点，这对于计算昂贵和/或高维工程问题来说是耗时的。在目前的工作中，我们通过将主动学习（AL）方法与DL相结合，提出了一种新颖的抽样技术。我们称此方法为$ \ epsilon $ - 加权混合查询策略（$ \ epsilon $ -HQS），该策略的重点是对每次学习迭代的替代物的评估，并提供了设计空间中代理的失败概率的估计。通过重复使用已经收集的培训和测试数据，学习的故障概率将下一个迭代的抽样过程引向了高失败概率的区域。在经验评估期间，与其他样品选择方法相比，观察到替代物的精度更好。我们在两个不同的工程设计域，基于有限元的静态应力分析（计算昂贵的过程）和第二次海底螺旋桨设计（高维问题）中对此方法进行了经验评估。 https://github.com/vardhah/epsilon_weighted_hybrid_query_strategy

天然气管道中的泄漏检测是石油和天然气行业的一个重要且持续的问题。这尤其重要，因为管道是运输天然气的最常见方法。这项研究旨在研究数据驱动的智能模型使用基本操作参数检测天然气管道的小泄漏的能力，然后使用现有的性能指标比较智能模型。该项目应用观察者设计技术，使用回归分类层次模型来检测天然气管道中的泄漏，其中智能模型充当回归器，并且修改后的逻辑回归模型充当分类器。该项目使用四个星期的管道数据流研究了五个智能模型（梯度提升，决策树，随机森林，支持向量机和人工神经网络）。结果表明，虽然支持向量机和人工神经网络比其他网络更好，但由于其内部复杂性和所使用的数据量，它们并未提供最佳的泄漏检测结果。随机森林和决策树模型是最敏感的，因为它们可以在大约2小时内检测到标称流量的0.1％的泄漏。所有智能模型在测试阶段中具有高可靠性，错误警报率为零。将所有智能模型泄漏检测的平均时间与文献中的实时短暂模型进行了比较。结果表明，智能模型在泄漏检测问题中的表现相对较好。该结果表明，可以与实时瞬态模型一起使用智能模型，以显着改善泄漏检测结果。

通过有限元（FE）模型对工程需求参数（EDP）的计算昂贵估计，同时考虑地震和参数不确定性限制了基于性能的地震工程框架的使用。已经尝试用替代模型代替FE模型，但是，这些模型中的大多数仅是构建参数的函数。这需要重新训练替代物以前未见地震。在本文中，作者提出了一个基于机器学习的替代模型框架，该框架考虑了这两种不确定性，以预测看不见的地震。因此，地震的特征在于使用代表性地面运动套件的SVD计算的正顺序基础。这使人们能够通过随机采样这些权重并将其乘以基础来产生大量的地震。权重以及本构参数作为用EDP作为所需输出的机器学习模型的输入。测试了四个竞争机器学习模型，并观察到一个深神经网络（DNN）给出了最准确的预测。该框架通过使用它成功预测了使用棒模型代表的一层楼和三层建筑的峰值响应来验证该框架，并受到看不见的远场地面运动。

在本文中，我们提出了帕托 - 一种可生产性感知拓扑优化（至）框架，以帮助有效地探索使用金属添加剂制造（AM）制造的部件的设计空间，同时确保相对于裂化的可制造性。具体地，通过激光粉末融合制造的部件由于从构建过程中产生的陡峭热梯度产生的高残余应力值而易于诸如翘曲或裂缝的缺陷。为这些零件的设计成熟并规划其制作可能跨越几年，通常涉及设计和制造工程师之间的多种切换。帕托基于先验的无裂缝设计的发现，使得优化部分可以在一开始就自由缺陷。为确保设计在优化期间无裂缝，可以在使用裂缝指数的标准制剂中明确地编码生产性。探索多个裂缝指数并使用实验验证，最大剪切应变指数（MSSI）被显示为准确的裂缝指数。模拟构建过程是耦合的多物理计算，并将其结合在循环中可以计算上禁止。我们利用了深度卷积神经网络的当前进步，并基于基于关注的U-Net架构的高保真代理模型，以将MSSI值预测为部分域上的空间变化的字段。此外，我们采用自动差异来直接计算关于输入设计变量的最大MSSI的梯度，并使用基于性能的灵敏度字段增强，以优化设计，同时考虑重量，可制造性和功能之间的权衡。我们通过3D基准研究以及实验验证来证明所提出的方法的有效性。

血流特征的预测对于了解血液动脉网络的行为至关重要，特别是在血管疾病（如狭窄）的存在下。计算流体动力学（CFD）提供了一种强大而有效的工具，可以确定包括网络内的压力和速度字段的这些特征。尽管该领域有许多研究，但CFD的极高计算成本导致研究人员开发新的平台，包括机器学习方法，而是以更低的成本提供更快的分析。在这项研究中，我们提出了一个深度神经网络框架，以预测冠状动脉网络中的流动行为，在存在像狭窄等异常存在下具有不同的性质。为此，使用合成数据训练人工神经网络（ANN）模型，使得它可以预测动脉网络内的压力和速度。培训神经网络所需的数据是从ABAQUS软件的特定特征的次数的CFD分析中获得了培训神经网络的数据。狭窄引起的血压下降，这是诊断心脏病诊断中最重要的因素之一，可以使用我们所提出的模型来了解冠状动脉的任何部分的几何和流动边界条件。使用Lad血管的三个实际几何形状来验证模型的效率。所提出的方法精确地预测了血流量的血流动力学行为。压力预测的平均精度为98.7％，平均速度幅度精度为93.2％。根据测试三个患者特定几何形状的模型的结果，模型可以被认为是有限元方法的替代方案以及其他难以实现的耗时数值模拟。

This paper demonstrates how Automated Machine Learning (AutoML) methods can be used as effective surrogate models in engineering design problems. To do so, we consider the challenging problem of structurally-performant bicycle frame design and demonstrate across-the-board dominance by AutoML in regression and classification surrogate modeling tasks. We also introduce FRAMED -- a parametric dataset of 4500 bicycle frames based on bicycles designed by practitioners and enthusiasts worldwide. Accompanying these frame designs, we provide ten structural performance values such as weight, displacements under load, and safety factors computed using finite element simulations for all the bicycle frame designs. We formulate two challenging test problems: a performance-prediction regression problem and a feasibility-prediction classification problem. We then systematically search for optimal surrogate models using Bayesian hyperparameter tuning and neural architecture search. Finally, we show how a state-of-the-art AutoML method can be effective for both regression and classification problems. We demonstrate that the proposed AutoML models outperform the strongest gradient boosting and neural network surrogates identified through Bayesian optimization by an improved F1 score of 24\% for classification and reduced mean absolute error by 12.5\% for regression. Our work introduces a dataset for bicycle design practitioners, provides two benchmark problems for surrogate modeling researchers, and demonstrates the advantages of AutoML in machine learning tasks. The dataset and code are provided at \url{http://decode.mit.edu/projects/framed/}.

基于部分微分方程的物理模拟通常会生成空间场结果，这些结果可用于计算系统设计和优化系统的特定属性。由于模拟的密集计算负担，替代模型将低维输入映射到空间场通常是基于相对较小的数据集构建的。为了解决预测整个空间场的挑战，流行的核心区域线性线性模型（LMC）可以在高维空间场输出中解散复杂的相关性，并提供准确的预测。但是，如果通过基本函数与潜在过程的线性组合无法很好地近似空间场，则LMC会失败。在本文中，我们通过引入可演化的神经网络来线性化高度复杂和非线性空间场，以便LMC可以轻松地将非线性问题概括为非线性问题，同时保留了放大学性和可伸缩性。几个现实世界的应用程序表明，E-LMC可以有效利用空间相关性，显示出比原始LMC的最大提高约40％，并且表现优于其他最先进的空间场模型。

人工智能（AI）和机器学习（ML）的最新表现突破，尤其是深度学习的进步（DL），功能强大，易于使用的ML库（例如Scikit-Learn，Tensorflow，Pytorch。），Pytorch。，Pytorch。。核工程师对AI/ML的前所未有的兴趣，并增加了计算能力。对于基于物理学的计算模型，已经广泛研究了验证，验证和不确定性定量（VVUQ），并且已经开发了许多方法。但是，ML模型的VVUQ的研究相对较少，尤其是在核工程中。在这项工作中，我们专注于ML模型的UQ作为ML VVUQ的初步步骤，更具体地说，是Deep Neural Networks（DNNS），因为它们是用于回归和分类任务的最广泛使用的监督ML算法。这项工作旨在量化DNN的预测或近似不确定性，当它们用作昂贵的物理模型的替代模型时。比较了DNN UQ的三种技术，即Monte Carlo辍学（MCD），深层合奏（DE）和贝叶斯神经网络（BNNS）。两个核工程示例用于基准这些方法，（1）使用野牛代码的时间依赖性裂变气体释放数据，以及（2）基于BFBT基准测试的无效分数模拟使用痕量代码。发现这三种方法通常需要不同的DNN体系结构和超参数来优化其性能。 UQ结果还取决于可用培训数据的量和数据的性质。总体而言，所有这三种方法都可以提供对近似不确定性的合理估计。当平均预测接近测试数据时，不确定性通常较小，而BNN方法通常会产生比MCD和DE更大的不确定性。

浅水方程是大多数洪水和河流液压分析模型的基础。这些基于物理的模型通常昂贵且速度慢，因此不适合实时预测或参数反转。有吸引力的替代方案是代理模型。这项工作基于深度学习介绍了高效，准确，灵活的代理模型，NN-P2P，它可以对非结构化或不规则网格进行点对点预测。评估新方法并与基于卷积神经网络（CNNS）的现有方法进行比较，其只能在结构化或常规网格上进行图像到图像预测。在NN-P2P中，输入包括空间坐标和边界特征，可以描述液压结构的几何形状，例如桥墩。所有代理模型都在预测培训域中不同类型的码头周围的流程中。然而，当执行空间推断时，只有NN-P2P工作很好。基于CNN的方法的限制源于其光栅图像性质，其无法捕获边界几何形状和流量，这对流体动力学至关重要。 NN-P2P在通过神经网络预测码头周围的流量方面也具有良好的性能。 NN-P2P模型还严格尊重保护法。通过计算拖动系数$ C_D $的拖动系数$ C_D $ C_D $与码头长度/宽度比的新线性关系来证明拟议的代理模型的应用。

飞机行业不断努力在人类的努力，计算时间和资源消耗方面寻求更有效的设计优化方法。当替代模型和最终过渡到HF模型的开关机制均被正确校准时，混合替代物优化保持了高效果，同时提供快速的设计评估。前馈神经网络（FNN）可以捕获高度非线性输入输出映射，从而为飞机绩效因素提供有效的替代物。但是，FNN通常无法概括分布（OOD）样本，这阻碍了它们在关键飞机设计优化中的采用。通过Smood，我们基于平滑度的分布检测方法，我们建议用优化的FNN替代物来编码一个依赖模型的OOD指标，以产生具有选择性但可信度的预测的值得信赖的替代模型。与常规的不确定性接地方法不同，Smood利用了HF模拟的固有平滑性特性，可以通过揭示其可疑敏感性有效地暴露OOD，从而避免对OOD样品的过度自信不确定性估计。通过使用SMOOD，仅将高风险的OOD输入转发到HF模型以进行重新评估，从而以低开销成本获得更准确的结果。研究了三个飞机性能模型。结果表明，基于FNN的代理在预测性能方面优于其高斯过程。此外，在所有研究案例中，Smood的确覆盖了85％的实际OOD。当Smood Plus FNN替代物被部署在混合替代优化设置中时，它们的错误率分别降低了34.65％和计算速度的降低率分别为58.36次。

物理信息的神经网络（PINN）是神经网络（NNS），它们作为神经网络本身的组成部分编码模型方程，例如部分微分方程（PDE）。如今，PINN是用于求解PDE，分数方程，积分分化方程和随机PDE的。这种新颖的方法已成为一个多任务学习框架，在该框架中，NN必须在减少PDE残差的同时拟合观察到的数据。本文对PINNS的文献进行了全面的综述：虽然该研究的主要目标是表征这些网络及其相关的优势和缺点。该综述还试图将出版物纳入更广泛的基于搭配的物理知识的神经网络，这些神经网络构成了香草·皮恩（Vanilla Pinn）以及许多其他变体，例如物理受限的神经网络（PCNN），各种HP-VPINN，变量HP-VPINN，VPINN，VPINN，变体。和保守的Pinn（CPINN）。该研究表明，大多数研究都集中在通过不同的激活功能，梯度优化技术，神经网络结构和损耗功能结构来定制PINN。尽管使用PINN的应用范围广泛，但通过证明其在某些情况下比有限元方法（FEM）等经典数值技术更可行的能力，但仍有可能的进步，最著名的是尚未解决的理论问题。

The occurrence of vacuum arcs or radio frequency (rf) breakdowns is one of the most prevalent factors limiting the high-gradient performance of normal conducting rf cavities in particle accelerators. In this paper, we search for the existence of previously unrecognized features related to the incidence of rf breakdowns by applying a machine learning strategy to high-gradient cavity data from CERN's test stand for the Compact Linear Collider (CLIC). By interpreting the parameters of the learned models with explainable artificial intelligence (AI), we reverse-engineer physical properties for deriving fast, reliable, and simple rule-based models. Based on 6 months of historical data and dedicated experiments, our models show fractions of data with a high influence on the occurrence of breakdowns. Specifically, it is shown that the field emitted current following an initial breakdown is closely related to the probability of another breakdown occurring shortly thereafter. Results also indicate that the cavity pressure should be monitored with increased temporal resolution in future experiments, to further explore the vacuum activity associated with breakdowns.

在概述中，引入了通用数学对象（映射），并解释了其与模型物理参数化的关系。引入了可用于模拟和/或近似映射的机器学习（ML）工具。ML的应用在模拟现有参数化，开发新的参数化，确保物理约束和控制开发应用程序的准确性。讨论了一些允许开发人员超越标准参数化范式的ML方法。

近年来，随着传感器和智能设备的广泛传播，物联网（IoT）系统的数据生成速度已大大增加。在物联网系统中，必须经常处理，转换和分析大量数据，以实现各种物联网服务和功能。机器学习（ML）方法已显示出其物联网数据分析的能力。但是，将ML模型应用于物联网数据分析任务仍然面临许多困难和挑战，特别是有效的模型选择，设计/调整和更新，这给经验丰富的数据科学家带来了巨大的需求。此外，物联网数据的动态性质可能引入概念漂移问题，从而导致模型性能降解。为了减少人类的努力，自动化机器学习（AUTOML）已成为一个流行的领域，旨在自动选择，构建，调整和更新机器学习模型，以在指定任务上实现最佳性能。在本文中，我们对Automl区域中模型选择，调整和更新过程中的现有方法进行了审查，以识别和总结将ML算法应用于IoT数据分析的每个步骤的最佳解决方案。为了证明我们的发现并帮助工业用户和研究人员更好地实施汽车方法，在这项工作中提出了将汽车应用于IoT异常检测问题的案例研究。最后，我们讨论并分类了该领域的挑战和研究方向。

最近，已经努力将信号阶段和时机（SPAT）消息标准化。这些消息包含所有信号交叉方法的信号相时机。因此，这些信息可用于有效的运动计划，从而导致更多均匀的交通流量和均匀的速度轮廓。尽管努力为半活化的信号控制系统提供了可靠的预测，但预测完全驱动控制的信号相时仍具有挑战性。本文提出了使用聚合的流量信号和循环检测器数据的时间序列预测框架。我们利用最先进的机器学习模型来预测未来信号阶段的持续时间。线性回归（LR），随机森林（RF）和长期内存（LSTM）神经网络的性能是针对天真基线模型进行评估的。结果基于瑞士苏黎世的全面信号控制系统的经验数据集表明，机器学习模型的表现优于常规预测方法。此外，基于树木的决策模型（例如RF）的表现最佳，其准确性满足实用应用要求。

许多现实生活中的优化问题通常包含一个或多个没有明确公式的约束或目标。但是，如果可用数据，这些数据可用于学习约束。清楚地看到了这种方法的好处，但是需要以结构化的方式进行此过程。因此，本文提供了一个使用约束学习（OCL）进行优化的框架，我们认为这将有助于正式化和指导从数据中学习的过程。该框架包括以下步骤：（i）设置概念优化模型，（ii）数据收集和预处理，（iii）选择和培训预测模型，（iv）解决优化模型以及（v）验证和验证和验证和验证改进优化模型。然后，我们根据该框架回顾了最近的OCL文献，并强调了当前的趋势以及未来研究的领域。

大多数机器学习算法由一个或多个超参数配置，必须仔细选择并且通常会影响性能。为避免耗时和不可递销的手动试验和错误过程来查找性能良好的超参数配置，可以采用各种自动超参数优化（HPO）方法，例如，基于监督机器学习的重新采样误差估计。本文介绍了HPO后，本文审查了重要的HPO方法，如网格或随机搜索，进化算法，贝叶斯优化，超带和赛车。它给出了关于进行HPO的重要选择的实用建议，包括HPO算法本身，性能评估，如何将HPO与ML管道，运行时改进和并行化结合起来。这项工作伴随着附录，其中包含关于R和Python的特定软件包的信息，以及用于特定学习算法的信息和推荐的超参数搜索空间。我们还提供笔记本电脑，这些笔记本展示了这项工作的概念作为补充文件。

热应力和变形的快速分析在热控制措施和卫星结构设计的优化中起着关键作用。为了实现卫星主板的实时热应力和热变形分析，本文提出了一种新型的多任务注意UNET（MTA-UNET）神经网络，将多任务学习（MTL）和U-NET的优势结合在一起注意机制。此外，在训练过程中使用了物理知识的策略，其中部分微分方程（PDE）被整合到损失函数中作为残留项。最后，将基于不确定性的损失平衡方法应用于重量的多个培训任务的不同损失功能。实验结果表明，与单任务学习（STL）模型相比，提出的MTA-UNET有效提高了多个物理任务的预测准确性。此外，物理信息的方法在每个任务的预测中的错误较小，尤其是在小型数据集上。代码可以在：\ url {https://github.com/komorebitso/mta-unet}下载。

只要可以预见的是测试代码的固有特征，可以大大降低测试的高成本。本文提供了一种机器学习模型，以预测测试可以在多大程度上覆盖一个名为Coverabeality的新指标。预测模型由四个回归模型的集合组成。学习样本由特征向量组成，其中特征是为类计算的源代码指标。样品由针对其相应类计算的覆盖率值标记。我们提供了一个数学模型，以评估每个班级自动生成的测试套件的尺寸和覆盖范围的测试效果。我们通过引入一种新方法来根据现有源代码指标来定义子计量数来扩展功能空间的大小。使用功能重要性分析在学习的预测模型上，我们按照对测试效果的影响顺序对源代码指标进行排序。结果，我们发现类别严格的循环复杂性是最有影响力的源代码度量。我们对包含大约23,000个类的大型Java项目的预测模型进行的实验表明，平均绝对误差（MAE）为0.032，平均平方误差（MSE）为0.004，R2得分为0.855。与最先进的覆盖范围预测模型相比，我们的模型分别提高了MAE，MSE和R2得分5.78％，2.84％和20.71％。