尽管近年来对受约束的多目标优化的兴趣日益越来越大,但受约束的多目标优化问题(CMOPS)仍然不令人满意,理解和表征。因此,困难且缺乏正式背景的适当CMOPS的选择。我们通过扩展横向分析来解决该问题,以限制多目标优化。通过采用四种探索性景观分析技术,我们提出了29个景观特征(其中19个是新颖的)来表征CMOPS。然后,这些景观特征用于比较八个常用的人工测试套针对基于物理模型的现实世界问题的最近提出的套件。实验结果表明,人工测试问题未能充分代表一些现实特征,例如目标和约束之间的强负相关性。此外,我们的研究结果表明,所有学习的人工测试套件都具有优缺点,并且不存在“完美”套件。基准设计人员可以使用所获得的结果根据他们想要探索的特征来选择或生成适当的CMOP实例。
translated by 谷歌翻译
神经结构搜索是一个有前途的研究领域,致力于自动化神经网络模型的设计。该领域正在迅速增长,具有从贝叶斯优化,神经间偏离的方法的浪涌,以及各种情况下的应用程序。然而,尽管存在巨大的进展,但很少有研究对问题本身的难度提出了见解,因此这些方法的成功(或失败)仍未解释。从这个意义上讲,优化领域已经开发了突出显示关键方面来描述优化问题的方法。适应性景观分析突出了可靠和定量搜索算法的特征时。在本文中,我们建议使用健身景观分析来研究神经结构搜索问题。特别是,我们介绍了健身景观足迹,八(8)个通用指标的聚合来综合架构搜索问题的景观。我们研究了两个问题,古典图像分类基准CiFar-10和遥感问题SO2SAT LCZ42。结果表现了对问题的定量评估,允许表征相对难度和其他特征,例如坚固性或持久性,有助于定制对问题的搜索策略。此外,足迹是一种能够比较多次问题的工具。
translated by 谷歌翻译
The local optima network model has proved useful in the past in connection with combinatorial optimization problems. Here we examine its extension to the real continuous function domain. Through a sampling process, the model builds a weighted directed graph which captures the function's minima basin structure and its interconnection and which can be easily manipulated with the help of complex networks metrics. We show that the model provides a complementary view of function spaces that is easier to analyze and visualize, especially at higher dimension. In particular, we show that function hardness as represented by algorithm performance, is strongly related to several graph properties of the corresponding local optima network, opening the way for a classification of problem difficulty according to the corresponding graph structure and with possible extensions in the design of better metaheuristic approaches.
translated by 谷歌翻译
高参数优化(HPO)是用于实现峰值预测性能的机器学习模型的关键组成部分。尽管在过去几年中提出了许多HPO的方法和算法,但在照明和检查这些黑盒优化问题的实际结构方面几乎没有取得进展。探索性景观分析(ELA)集成了一组技术,可用于获得有关未知优化问题的特性的知识。在本文中,我们评估了30个HPO问题的五个不同的黑盒优化器的性能,其中包括在10个不同数据集中训练的XGBoost学习者的两维连续搜索空间。这与对黑框优化基准(BBOB)对360个问题实例进行评估的相同优化器的性能形成鲜明对比。然后,我们计算HPO和BBOB问题上的ELA特征,并检查相似性和差异。 ELA特征空间中HPO和BBOB问题的聚类分析使我们能够确定HPO问题与结构元级别上的BBOB问题相比。我们确定了与ELA特征空间中HPO问题接近的BBOB问题的子集,并表明优化器性能在这两组基准问题上相似。我们重点介绍了ELA对HPO的公开挑战,并讨论了未来研究和应用的潜在方向。
translated by 谷歌翻译
聚类算法的全面基准是困难的两个关键因素:(i)〜这种无监督的学习方法的独特数学定义和(ii)〜某些聚类算法采用的生成模型或群集标准之间的依赖性的依赖性内部集群验证。因此,对严格基准测试的最佳做法没有达成共识,以及是否有可能在给定申请的背景之外。在这里,我们认为合成数据集必须继续在群集算法的评估中发挥重要作用,但这需要构建适当地涵盖影响聚类算法性能的各种属性集的基准。通过我们的框架,我们展示了重要的角色进化算法,以支持灵活的这种基准,允许简单的修改和扩展。我们说明了我们框架的两种可能用途:(i)〜基准数据的演变与一组手派生属性和(ii)〜生成梳理给定对算法之间的性能差异的数据集。我们的作品对设计集群基准的设计具有足够挑战广泛算法的集群基准,并进一步了解特定方法的优势和弱点。
translated by 谷歌翻译
有损压缩和聚类的核心是学习代表的忠诚度和规模之间的权衡。我们的目标是绘制并研究量化此权衡的帕累托前沿。我们关注确定性信息瓶颈(DIB)目标在硬聚类空间上的优化。为此,我们介绍了原始的DIB问题,当优化在离散搜索空间上时,我们显示出比以前研究的拉格朗日放松的最丰富的领域。我们提出了一种算法,用于绘制原始DIB权衡的Pareto前沿,该算法也适用于其他两种目标聚类问题。我们研究了帕累托边境的一般特性,并提供了总体上对数稀疏性的分析和数值证据。我们提供的证据表明,尽管有超过指数的搜索空间,但我们的算法具有多项式缩放,此外,我们提出了对算法的修改,该算法可以在预期采样噪声显着的情况下使用。最后,我们使用算法来绘制三个不同任务的DIB前沿:压缩英语字母,从自然图像中提取信息性的颜色类别,并压缩了一个以群体理论为灵感的数据集,揭示了Frontier的有趣特征,并演示了如何展示的结构。边界可用于模型选择,重点是先前由凸船斗篷隐藏的点。
translated by 谷歌翻译
在进化多目标聚类方法(EMOC)中,已将各种聚类标准应用于目标函数。但是,大多数EMOC并未提供有关目标功能的选择和使用的详细分析。旨在支持eMOC中目标的更好的选择和定义,本文提出了通过检查搜索方向及其在寻找最佳结果的潜力来分析进化优化中聚类标准的可采性的分析。结果,我们证明了目标函数的可接受性如何影响优化。此外,我们还提供有关eMOC中聚类标准的组合和使用的见解。
translated by 谷歌翻译
了解多目标进化算法(MOEAS)的搜索动力学仍然是一个开放的问题。本文扩展了最新的基于网络的工具,即搜索轨迹网络(STNS),以模拟MOEAS的行为。我们的方法使用分解的想法,其中多物原理问题转化为几个单目标问题。我们证明,使用10个连续的基准问题和3个目标,可以使用STN来模拟和区分两种流行的多目标算法MOEA/D和NSGA-II的搜索行为。我们的发现表明,我们可以使用STN进行算法分析来提高对MOEAS的理解。
translated by 谷歌翻译
We review clustering as an analysis tool and the underlying concepts from an introductory perspective. What is clustering and how can clusterings be realised programmatically? How can data be represented and prepared for a clustering task? And how can clustering results be validated? Connectivity-based versus prototype-based approaches are reflected in the context of several popular methods: single-linkage, spectral embedding, k-means, and Gaussian mixtures are discussed as well as the density-based protocols (H)DBSCAN, Jarvis-Patrick, CommonNN, and density-peaks.
translated by 谷歌翻译
由于其数据效率,贝叶斯优化已经出现在昂贵的黑盒优化的最前沿。近年来,关于新贝叶斯优化算法及其应用的发展的研究激增。因此,本文试图对贝叶斯优化的最新进展进行全面和更新的调查,并确定有趣的开放问题。我们将贝叶斯优化的现有工作分为九个主要群体,并根据所提出的算法的动机和重点。对于每个类别,我们介绍了替代模型的构建和采集功能的适应的主要进步。最后,我们讨论了开放的问题,并提出了有希望的未来研究方向,尤其是在分布式和联合优化系统中的异质性,隐私保护和公平性方面。
translated by 谷歌翻译
在工程应用程序数据集中找到有意义的概念,这些数据集可以在许多情况下进行明智的设计分组。它允许确定具有相似属性的不同设计组,并在工程决策过程中提供有用的知识。此外,它为进一步的特定设计候选者提供了一条路线,这些候选者表现出某些特征。在这项工作中,提出了一种在现有工程数据集中定义有意义且一致的概念的方法。数据集中的设计的特征是多种功能,例如设计参数,几何特性或设计的设计参数,以适应各种边界条件。在提议的方法中,将完整的功能集分为几个称为描述空间的子集。概念的定义尊重这种分区,这导致了确定概念的几个理想属性,这是通过最先进的聚类或概念识别方法无法实现的。提出了一种新颖的概念质量度量,该度量为数据集中的概念定义提供了客观价值。通过考虑一个由约2500个机翼轮廓组成的现实工程数据集,可以证明该度量的有用性,其中通过计算流体动力学模拟获得了三种不同操作条件的性能值(升力和阻力)。采用了一个数值优化过程,可最大程度地提高概念质量度量,并为描述空间的不同设置找到有意义的概念,同时还结合了用户偏好。已经证明了如何使用这些概念来选择数据集的原型代表,这些代表表现出每个概念的特征。
translated by 谷歌翻译
空间优化问题(SOP)的特征是管理决策变量,目标和/或约束功能的空间关系。在本文中,我们关注一种称为空间分区的特定类型的SOP,这是一个组合问题,这是由于存在离散空间单元。精确的优化方法不会随着问题的大小而扩展,尤其是在可行的时间限制内。这促使我们开发基于人群的元启发式学来解决此类SOP。但是,这些基于人群的方法采用的搜索操作员主要是为实参与者连续优化问题而设计的。为了使这些方法适应SOP,我们将域知识应用于设计空间感知的搜索操作员,以在保留空间约束的同时有效地通过离散搜索空间进行有效搜索。为此,我们提出了一种简单而有效的算法,称为基于群的空间模因算法(空间),并在学校(RE)区域问题上进行测试。对现实世界数据集进行了详细的实验研究,以评估空间的性能。此外,进行消融研究以了解空间各个组成部分的作用。此外,我们讨论空间〜如何在现实生活计划过程及其对不同方案的适用性并激发未来的研究方向有帮助。
translated by 谷歌翻译
许多现实世界的科学和工业应用都需要优化多个竞争的黑盒目标。当目标是昂贵的评估时,多目标贝叶斯优化(BO)是一种流行的方法,因为其样品效率很高。但是,即使有了最近的方法学进步,大多数现有的多目标BO方法在具有超过几十个参数的搜索空间上的表现较差,并且依赖于随着观测值数量进行立方体扩展的全局替代模型。在这项工作中,我们提出了Morbo,这是高维搜索空间上多目标BO的可扩展方法。 Morbo通过使用协调策略并行在设计空间的多个局部区域中执行BO来确定全球最佳解决方案。我们表明,Morbo在几种高维综合问题和现实世界应用中的样品效率中的最新效率显着提高,包括光学显示设计问题和146和222参数的车辆设计问题。在这些问题上,如果现有的BO算法无法扩展和表现良好,Morbo为从业者提供了刻度级别的效率,则在当前方法上可以提高样本效率。
translated by 谷歌翻译
即使多模式的多目标多目标进化算法(MMOEA)旨在找到良好的解决方案,分布在所有本地最佳近似值集的多模式多模式多目标优化问题(MMOP)中,发现发现的风险是,发现的一组是一组。解决方案无法平稳导航,因为该解决方案属于各种壁ni,从而减少了决策者的见解。为了解决此问题,提出了一个新的mmoeA:多模式的B \'Ezier进化算法(MM-BEZEA),该算法产生近似集,涵盖单个利基市场并表现出固有的决策空间平稳性,因为它们由B \'参数化。Ezier曲线。MM-BEZEA结合了最近引入的bezea和Mo-Hillvallea背后的概念,以找到所有本地最佳近似集。当用线性帕累托套件上的MMOP上的MMOEAS MO_RING_PSO_SCD和MO-HILLVALLEA进行基准测试时,发现MM-BEZEA在最佳的HyperVolume方面表现最好。
translated by 谷歌翻译
多模式的多目标问题(MMOP)通常在现实世界中出现,而决策空间中遥远的解决方案对应于非常相似的目标值。为了获得MMOP的所有溶液,已经提出了许多多模式多模式的多模型进化算法(MMEAS)。目前,很少有研究涵盖了最近提出的大多数代表性MMEAS,并进行了比较。在这项研究中,我们首先回顾了过去二十年中相关作品。然后,我们选择了12种利用不同多样性维护技术的最先进的算法,并比较了它们在现有测试套件上的性能。实验结果表明,不同类型的MMOP上不同技术的优势和劣势,从而为如何在特定情况下选择/设计MMEAS提供指导。
translated by 谷歌翻译
许多现实世界优化问题,如工程最优设计,最终可以被建模为必须解决的相应多目标优化问题(MOPS),以获得近似帕累托最佳前端。基于分解(MOEA / D)的多目标进化算法被认为是解决MOP的明显有希望的方法。最近的研究表明,具有均匀重量载体的MoEA / D非常适合于普通帕累托最佳前端的拖把,但在多样性方面的性能通常会在解决带有不规则帕累托最佳方向时造成拖镜时劣化。以这种方式,通过该算法获得的解决方案集不能为决策者提供更合理的选择。为了有效地克服这一缺点,我们通过众所周知的Pascoletti-Serafini标定方法和多参考点的新策略提出了一种改进的MoA / D算法。具体地,该策略包括由等距分区和投影的技术产生的参考点的设置和调整组成。对于性能评估,将所提出的算法与现有的四个最先进的多目标进化算法进行比较,这些算法与各种类型的帕累托最优前锋和两个现实世界拖把的基准测试问题相比,包括舱口盖设计和火箭喷射器设计在工程优化中。根据实验结果,所提出的算法表现出比其他比较算法更好的分集性能。
translated by 谷歌翻译
我们对两个单目标和两个多目标的全局全局优化算法进行了全面的全局灵敏度分析,作为算法配置问题。也就是说,我们研究了超参数对算法的直接效果和与其他超参数的效果的影响的影响质量。使用三种敏感性分析方法Morris LHS,Morris和Sobol,可以系统地分析协方差矩阵适应进化策略,差异进化,非主导的遗传算法III和多目标进化算法的可调型矩阵适应性进化策略,基于框架的分解,基于框架揭示,基于框架的遗传算法,超参数对抽样方法和性能指标的行为。也就是说,它回答了等问题,例如什么超参数会影响模式,它们的互动方式,相互作用的互动程度以及其直接影响程度。因此,超参数的排名表明它们的调整顺序,影响模式揭示了算法的稳定性。
translated by 谷歌翻译
通过边界估计可以显着简化求解约束优化问题(COP),即提供成本函数的紧密边界。通过使用由已知边界的数据组成的数据以及COMPS提取的特征来馈送监督机器学习(ML)模型,可以训练模型以估计新COP实例的边界。在本文中,我们首先概述了来自问题实例的约束编程(CP)的ML的现有知识体系。其次,我们介绍了应用于支持CP解算器的工具的边界估计框架。在该框架内,讨论并评估了不同的ML模型,并评估其对边界估计的适用性,并避免避免求解器找到最佳解决方案的不可行估计的对策。第三,我们在七个警察中提出了一种实验研究,与不同的CP溶剂。我们的结果表明,可以仅限于这些警察的近似最佳边界。这些估计的边界将客观域大小减少60-88%,可以帮助求解器在搜索期间提前找到近乎最佳解决方案。
translated by 谷歌翻译
传感器节点(SNS)的部署总是在无线传感器网络(WSN)的系统性能中起决定性作用。在这项工作中,我们提出了一种实用异构WSN的最佳部署方法,该方法可以深入了解可靠性和部署成本之间的权衡。具体而言,这项工作旨在提供SNS的最佳部署,以最大程度地提高覆盖率和连接学位,同时最大程度地减少整体部署成本。此外,这项工作充分考虑了SNS的异质性(即差异化的传感范围和部署成本)和三维(3-D)部署方案。这是一个多目标优化问题,非凸,多模态和NP-HARD。为了解决它,我们开发了一种新型的基于群体的多目标优化算法,称为竞争性多目标海洋掠食者算法(CMOMPA),其性能通过与十种其他多个多目标优化的全面比较实验验证算法。计算结果表明,在收敛性和准确性方面,CMOMPA优于他人,并且在多模式多目标优化问题上表现出卓越的性能。还进行了足够的模拟来评估基于CMOMPA的最佳SNS部署方法的有效性。结果表明,优化的部署可以平衡部署成本,感知可靠性和网络可靠性之间的权衡平衡。源代码可在https://github.com/inet-wzu/cmompa上找到。
translated by 谷歌翻译