A hybrid framework combining the branch and bound method with multiobjective evolutionary algorithms is proposed for nonconvex multiobjective optimization. The hybridization exploits the complementary character of the two optimization strategies. A multiobjective evolutionary algorithm is intended for inducing tight lower and upper bounds during the branch and bound procedure. Tight bounds such as the ones derived in this way can reduce the number of subproblems that have to be solved. The branch and bound method guarantees the global convergence of the framework and improves the search capability of the multiobjective evolutionary algorithm. An implementation of the hybrid framework considering NSGA-II and MOEA/D-DE as multiobjective evolutionary algorithms is presented. Numerical experiments verify the hybrid algorithms benefit from synergy of the branch and bound method and multiobjective evolutionary algorithms.
translated by 谷歌翻译
非主导的分类遗传算法II(NSGA-II)是现实应用中最强烈使用的多目标进化算法(MOEA)。然而,与几个通过数学手段分析的几个简单的MOES相反,到目前为止,NSGA-II也不存在这种研究。在这项工作中,我们表明,数学运行时分析也可用于NSGA-II。结果,我们证明,由于持续因素大于帕累托前方大小的人口大小,具有两个经典突变算子的NSGA-II和三种不同的选择父母的方式满足与Semo和GSEMO相同的渐近运行时保证基本ineminmax和Lotz基准函数的算法。但是,如果人口大小仅等于帕累托前面的大小,那么NSGA-II就无法有效地计算完整的帕累托前部(对于指数迭代,人口总是错过帕累托前部的恒定分数) 。我们的实验证实了上述研究结果。
translated by 谷歌翻译
The NSGA-II is one of the most prominent algorithms to solve multi-objective optimization problems. Despite numerous successful applications, several studies have shown that the NSGA-II is less effective for larger numbers of objectives. In this work, we use mathematical runtime analyses to rigorously demonstrate and quantify this phenomenon. We show that even on the simple OneMinMax benchmark, where every solution is Pareto optimal, the NSGA-II also with large population sizes cannot compute the full Pareto front (objective vectors of all Pareto optima) in sub-exponential time when the number of objectives is at least three. Our proofs suggest that the reason for this unexpected behavior lies in the fact that in the computation of the crowding distance, the different objectives are regarded independently. This is not a problem for two objectives, where any sorting of a pair-wise incomparable set of solutions according to one objective is also such a sorting according to the other objective (in the inverse order).
translated by 谷歌翻译
许多现实世界优化问题,如工程最优设计,最终可以被建模为必须解决的相应多目标优化问题(MOPS),以获得近似帕累托最佳前端。基于分解(MOEA / D)的多目标进化算法被认为是解决MOP的明显有希望的方法。最近的研究表明,具有均匀重量载体的MoEA / D非常适合于普通帕累托最佳前端的拖把,但在多样性方面的性能通常会在解决带有不规则帕累托最佳方向时造成拖镜时劣化。以这种方式,通过该算法获得的解决方案集不能为决策者提供更合理的选择。为了有效地克服这一缺点,我们通过众所周知的Pascoletti-Serafini标定方法和多参考点的新策略提出了一种改进的MoA / D算法。具体地,该策略包括由等距分区和投影的技术产生的参考点的设置和调整组成。对于性能评估,将所提出的算法与现有的四个最先进的多目标进化算法进行比较,这些算法与各种类型的帕累托最优前锋和两个现实世界拖把的基准测试问题相比,包括舱口盖设计和火箭喷射器设计在工程优化中。根据实验结果,所提出的算法表现出比其他比较算法更好的分集性能。
translated by 谷歌翻译
\ textit {约束路径发现}的经典问题是一个经过充分研究但充满挑战的主题,在各个领域,例如沟通和运输等各个领域的应用。权重限制了最短路径问题(WCSPP),作为仅具有一个侧面约束的约束路径查找的基本形式,旨在计划成本最佳路径,其权重/资源使用受到限制。鉴于问题的双标准性质(即处理路径的成本和权重),解决WCSPP的方法具有一些带有双目标搜索的共同属性。本文在约束路径查找和双目标搜索中利用了最新的基于A*的最新技术,并为WCSPP提供了两种精确的解决方案方法,两者都可以在非常大的图表上解决硬性问题实例。我们从经验上评估了算法在新的大型和现实的问题实例上的性能,并在时空指标中显示出它们比最新算法的优势。本文还调查了优先级队列在被a*的约束搜索中的重要性。我们通过对逼真的和随机图进行了广泛的实验来展示,基于桶的队列没有打破打盘的方式可以有效地改善详尽的双标准搜索的算法性能。
translated by 谷歌翻译
This paper presents a practical global optimization algorithm for the K-center clustering problem, which aims to select K samples as the cluster centers to minimize the maximum within-cluster distance. This algorithm is based on a reduced-space branch and bound scheme and guarantees convergence to the global optimum in a finite number of steps by only branching on the regions of centers. To improve efficiency, we have designed a two-stage decomposable lower bound, the solution of which can be derived in a closed form. In addition, we also propose several acceleration techniques to narrow down the region of centers, including bounds tightening, sample reduction, and parallelization. Extensive studies on synthetic and real-world datasets have demonstrated that our algorithm can solve the K-center problems to global optimal within 4 hours for ten million samples in the serial mode and one billion samples in the parallel mode. Moreover, compared with the state-of-the-art heuristic methods, the global optimum obtained by our algorithm can averagely reduce the objective function by 25.8% on all the synthetic and real-world datasets.
translated by 谷歌翻译
在多目标优化中,一组具有各种功能的可扩展测试问题使研究人员可以调查和评估不同优化算法的能力,因此可以帮助他们设计和开发更有效,更有效的方法。现有的测试问题套件主要集中在所有目标彼此完全冲突的情况下。在这种情况下,目标空间中的M-Obigntive优化问题具有(M-1)维帕累托前沿。但是,在某些优化问题中,目标之间可能存在意外的特征,例如冗余。某些目标的冗余可能会导致具有堕落的帕累托正面的多物镜问题,即,$ m $ - 目标问题的帕累托正面的尺寸小于(M-1)。在本文中,我们系统地研究了退化的多目标问题。我们抽象了退化问题的三个一般特征,这些特征未在文献中进行制定和系统地研究。基于这些特征,我们提出了一组测试问题,以支持在具有冗余目标的情况下对多目标优化算法进行研究。据我们所知,这项工作是第一项明确提出退化问题的三个特征,从而使所得的测试问题的一般性具有一般性的特征,与为特定目的设计的现有测试问题相比(例如,可视化),则允许所得的测试问题。 )。
translated by 谷歌翻译
由于NSGA-II的种群动态更为复杂,因此该算法的现有运行时保证都没有伴随着非平凡的下限。通过对NSGA-II人口动态的首次数学理解,即通过估计具有一定客观价值的个体的预期数量,我们证明具有合适人口大小的NSGA-II需要$ \ omega(nn \ log) n)$函数评估,以找到Oneminmax问题的帕累托正面和$ \ omega(nn^k)$评估,$ jumpzerojump问题与跳跃尺寸$ k $。这些界限在渐近上(即,它们匹配先前显示的上限),并表明这里的NSGA-II甚至在平行运行时(迭代次数)中也没有从较大的人口大小中的利润。对于OneJumpZeroJump问题,当使用相同的排序用于计算两个目标的拥挤距离贡献时,我们甚至获得了一个紧张的运行时估计,其中包括领导常数。
translated by 谷歌翻译
图中最短的路径问题是理论和应用的基石。现有的工作是边缘重量访问时间,但通常会忽略边缘重量计算时间。在本文中,我们提出了一个加权有向图的广义框架,其中每个边缘的成本可以通过多个估计器动态估计,该估计器提供不同的成本范围和运行时间。这引发了几个通用的最短路径问题,可以优化路径成本的不同方面,同时需要保证成本不确定性,从而为建模现实问题提供了更好的基础。我们提供完整的,任何时间来解决这些问题,并提供解决方案质量的保证。
translated by 谷歌翻译
我们引入了随机匪徒反馈的矢量优化问题,这将最佳的手臂识别问题扩展到了矢量值奖励。我们考虑具有多维平均奖励向量的$ K $设计,根据多面体订购锥$ C $部分订购。这概括了多目标优化中的帕累托集合的概念,并允许通过$ c $编码的不同偏好。与先前的工作不同,我们根据无方向覆盖和间隙概念来定义帕累托集的近似值。我们研究($ \ epsilon,\ delta $) - PAC PACPARETO设定的识别问题,其中对每个设计的评估都会产生对平均奖励向量的嘈杂观察。为了表征学习帕累托集的困难,我们介绍了{\ em排序复杂性}的概念,即经验奖励向量偏离其平均值的几何条件,可以准确地近似帕累托前沿。我们展示了如何计算任何多面体排序锥的订购复杂性。我们在样品复杂性上提供了依赖性依赖性和最差的下限,并表明在最差的情况下,样品复杂性尺度具有订购复杂性的平方。此外,我们研究了Na \“ Ive Upination算法的样本复杂性,并证明它几乎与最坏的样本复杂性相匹配。最后,我们进行了实验以验证我们的理论结果并说明$ C $和采样预算如何影响Pareto设置,返回($ \ epsilon,\ delta $) - PAC PARETO SET和标识的成功。
translated by 谷歌翻译
决策树是机器学习工具箱中最有用和最受欢迎的方法之一。在本文中,我们考虑了学习最佳决策树的问题,这是一个组合优化问题,该问题具有挑战性。文献中的一种常见方法是使用贪婪的启发式方法,这可能不是最佳的。最近,人们对使用各种方法(例如,基于整数编程,动态编程)学习最佳决策树已经引起了重大兴趣 - 为了实现计算可伸缩性,这些方法中的大多数都集中在具有二进制功能的分类任务上。在本文中,我们提出了一种基于分支机构(BNB)的新离散优化方法,以获得最佳决策树。与现有的定制方法不同,我们考虑具有连续功能的回归和分类任务。我们方法基础的基本思想是基于特征分布的分位数来拆分搜索空间 - 导致沿BNB迭代的基础优化问题的上限和下限。与现有的各种真实数据集中的浅最佳树相比,我们提出的算法Quant-BNB显示出显着的加速。
translated by 谷歌翻译
这项工作将重新审视关节波束形成(BF)和天线选择(AS)问题,以及其在不完美的通道状态信息(CSI)下的稳健光束成型(RBF)版本。在射频链的数量(RF)链的数量小于发射器上的天线元件的情况下,出现了此类问题,这已成为大型阵列时代的关键考虑。关节(r)bf \&作为问题是一个混合整数和非线性程序,因此发现{\ it最佳解决方案}通常是昂贵的,即使不是完全不可能。绝大多数先前的作品都使用基于连续优化的近似来解决这些问题 - 但是这些近似不能确保解决方案的最佳性甚至可行性。这项工作的主要贡献是三倍。首先,提出了一个有效的{\ it分支和绑定}(b \&b)解决感兴趣问题的框架。利用现有的BF和RBF求解器,表明B \&B框架保证了所考虑的问题的全球最优性。其次,为了加快潜在昂贵的B \&B算法,提出了一种基于机器学习(ML)的方案,以帮助跳过B \&B搜索树的中间状态。学习模型具有{\ it图形神经网络}(GNN)的设计,该设计对无线通信中通常遇到的挑战有抵抗力,即,培训和测试中问题大小的变化(例如,用户数量)的变化(例如,用户数量)阶段。第三,提出了全面的性能特征,表明基于GNN的方法在合理的条件下保留了B \&B的全球最佳性,其复杂性可降低。数值模拟还表明,基于ML的加速度通常可以相对于B \&b实现速度的速度。
translated by 谷歌翻译
机会受到限制的优化问题允许建模问题,其中涉及随机组件的约束仅应以较小的概率侵犯。进化算法已应用于这种情况,并证明可以实现高质量的结果。在本文中,我们有助于对进化算法的理论理解,以进行偶然的优化。我们研究独立且正态分布的随机组件的场景。考虑到简单的单对象(1+1)〜EA,我们表明,施加额外的统一约束已经导致局部最佳选择,对于非常有限的场景和指数优化时间。因此,我们引入了问题的多目标公式,该公式可以摆脱预期成本及其差异。我们表明,在使用此公式时,多目标进化算法是非常有效的,并获得一组解决方案,该解决方案包含最佳解决方案,以适用于施加在约束上的任何可能的置信度。此外,我们证明这种方法还可以用于计算一组最佳解决方案,以限制最小跨越树问题。为了在多目标配方中呈指数指数的折衷,我们提出并分析了改进的凸多目标方法。关于NP-固定随机最小重量占主导地位问题的实例的实验研究证实了多目标和改进的凸多目标方法的益处。
translated by 谷歌翻译
我们考虑通过顺序查询其(可能扰动的)值,在紧凑型结构域上最大化非concave Lipschitz多元函数的问题。我们研究了Piyavskii和Shubert在1972年最初设计的天然算法,为此,我们证明了有关达到或证明给定优化精度所需功能的评估次数的新范围。我们的分析使用了强烈的优化观点,并通过界定评估数量来证明给定准确性的数量接近封装数量,从而解决了Hansen等人(1991)的开放问题。
translated by 谷歌翻译
随机双动脉公司是一种用于多级随机优化的切割平面算法,起源于大约30年前。尽管实践中的普及,但对该方法的收敛速率没有任何分析。在本文中,我们首先通过引入包括搜索点的饱和度的新颖的数学工具来建立迭代的迭代次数,即迭代复杂性,所以通过基本的动态切割平面方法来解决相对简单的多级优化问题。然后,我们改进了这些基本工具,并确定了确定性和随机双动脉的迭代复杂性,用于解决标准阶段明智独立假设下的更一般的多级随机优化问题。我们的结果表明,其中一些方法的复杂性随着阶段$ T $的数量轻微增加,实际上是线性地取决于折扣问题的$ t $。因此,它们是涉及大量阶段的战略决策的有效决策,但在每个阶段中具有相对少量的决策变量。如果不明确地离散地,这些方法也可能与相关的强化学习和随机控制区域相关。
translated by 谷歌翻译
在进化多目标优化领域,决策者(DM)涉及相互冲突的目标。在现实世界中,通常存在多个DM,每个DM都涉及这些目标的一部分。提出了多方多目标优化问题(MPMOPS)来描绘拖把,其中涉及多个决策者,每个方都关注所有目标的某些目标。但是,在进化计算字段中,对mpmops的关注不多。本文基于距离最小化问题(DMP)构建了一系列MPMOP,它们的Pareto最佳解决方案可以生动地可视化。为了解决MPMOPS,新提出的算法OPTMPNDS3使用多方初始化方法来初始化总体,并带Jade2操作员生成后代。在问题套件上,将OPTMPNDS3与Optall,OptMPND和OptMPNDS2进行了比较。结果表明OPTMPNDS3与其他算法具有很强的可比性
translated by 谷歌翻译
最近,已经进行了多目标进化优化器NSGA-II的第一个数学运行时分析(AAAI 2022,GECCO 2022(出现),ARXIV 2022)。我们通过对由两个多模式目标组成的基准问题进行该算法的第一个运行时分析继续进行这一研究。我们证明,如果人口尺寸$ n $至少是帕累托阵线的四倍,那么NSGA-II具有四种不同方法的NSGA-II选择父母,并且位于Bit Wise突变将优化OnejumpzeroJump基准,其跳高尺寸〜$ 2 \ le lek \ le n/4 $ in Time $ o(n n^k)$。当使用快速突变(最近提出的重型突变操作员)时,此保证将提高$ k^{\ omega(k)} $。总体而言,这项工作表明,NSGA-II至少与全球SEMO算法有关OnejumpZeroJump问题的局部优势。
translated by 谷歌翻译
Explicitly accounting for uncertainties is paramount to the safety of engineering structures. Optimization which is often carried out at the early stage of the structural design offers an ideal framework for this task. When the uncertainties are mainly affecting the objective function, robust design optimization is traditionally considered. This work further assumes the existence of multiple and competing objective functions that need to be dealt with simultaneously. The optimization problem is formulated by considering quantiles of the objective functions which allows for the combination of both optimality and robustness in a single metric. By introducing the concept of common random numbers, the resulting nested optimization problem may be solved using a general-purpose solver, herein the non-dominated sorting genetic algorithm (NSGA-II). The computational cost of such an approach is however a serious hurdle to its application in real-world problems. We therefore propose a surrogate-assisted approach using Kriging as an inexpensive approximation of the associated computational model. The proposed approach consists of sequentially carrying out NSGA-II while using an adaptively built Kriging model to estimate the quantiles. Finally, the methodology is adapted to account for mixed categorical-continuous parameters as the applications involve the selection of qualitative design parameters as well. The methodology is first applied to two analytical examples showing its efficiency. The third application relates to the selection of optimal renovation scenarios of a building considering both its life cycle cost and environmental impact. It shows that when it comes to renovation, the heating system replacement should be the priority.
translated by 谷歌翻译
语义已成为遗传编程(GP)研究的关键话题。语义是指在数据集上运行时GP个体的输出(行为)。专注于单目标GP中语义多样性的大多数作品表明它在进化搜索方面是非常有益的。令人惊讶的是,在多目标GP(MOGP)中,在语义中进行了小型研究。在这项工作中,我们跨越我们对Mogp中语义的理解,提出SDO:基于语义的距离作为额外标准。这自然鼓励Mogp中的语义多样性。为此,我们在第一个帕累托前面的较密集的区域(最有前途的前沿)找到一个枢轴。然后,这用于计算枢轴与人群中的每个人之间的距离。然后将所得到的距离用作优化以优化以偏及语义分集的额外标准。我们还使用其他基于语义的方法作为基准,称为基于语义相似性的交叉和语义的拥挤距离。此外,我们也使用NSGA-II和SPEA2进行比较。我们使用高度不平衡二进制分类问题,一致地展示我们所提出的SDO方法如何产生更多非主导的解决方案和更好的多样性,导致更好的统计学显着的结果,与其他四种方法相比,使用超卓越症结果作为评估措施。
translated by 谷歌翻译