In the field of derivative-free optimization, both of its main branches, the deterministic and nature-inspired techniques, experienced in recent years substantial advancement. In this paper, we provide an extensive computational comparison of selected methods from each of these branches. The chosen representatives were either standard and well-utilized methods, or the best-performing methods from recent numerical comparisons. The computational comparison was performed on five different benchmark sets and the results were analyzed in terms of performance, time complexity, and convergence properties of the selected methods. The results showed that, when dealing with situations where the objective function evaluations are relatively cheap, the nature-inspired methods have a significantly better performance than their deterministic counterparts. However, in situations when the function evaluations are costly or otherwise prohibited, the deterministic methods might provide more consistent and overall better results.

Metaheuristics are popularly used in various fields, and they have attracted much attention in the scientific and industrial communities. In recent years, the number of new metaheuristic names has been continuously growing. Generally, the inventors attribute the novelties of these new algorithms to inspirations from either biology, human behaviors, physics, or other phenomena. In addition, these new algorithms, compared against basic versions of other metaheuristics using classical benchmark problems without shift/rotation, show competitive performances. In this study, we exhaustively tabulate more than 500 metaheuristics. To comparatively evaluate the performance of the recent competitive variants and newly proposed metaheuristics, 11 newly proposed metaheuristics and 4 variants of established metaheuristics are comprehensively compared on the CEC2017 benchmark suite. In addition, whether these algorithms have a search bias to the center of the search space is investigated. The results show that the performance of the newly proposed EBCM (effective butterfly optimizer with covariance matrix adaptation) algorithm performs comparably to the 4 well performing variants of the established metaheuristics and possesses similar properties and behaviors, such as convergence, diversity, exploration and exploitation trade-offs, in many aspects. The performance of all 15 of the algorithms is likely to deteriorate due to certain transformations, while the 4 state-of-the-art metaheuristics are less affected by transformations such as the shifting of the global optimal point away from the center of the search space. It should be noted that, except EBCM, the other 10 new algorithms proposed mostly during 2019-2020 are inferior to the well performing 2017 variants of differential evolution and evolution strategy in terms of convergence speed and global search ability on CEC 2017 functions.

基准和性能分析在理解迭代优化启发式（IOHS）的行为中发挥着重要作用，例如本地搜索算法，遗传和进化算法，贝叶斯优化算法等。然而，这项任务涉及手动设置，执行和分析实验单独的基础，这是艰苦的，可以通过通用和设计精心设计的平台来缓解。为此，我们提出了Iohanalyzer，一种用于分析，比较和可视化IOH的性能数据的新用户友好的工具。在R和C ++中实现，Iohanalyzer是完全开源的。它可以在Cran和GitHub上获得。 Iohanalyzer提供有关固定目标运行时间的详细统计信息以及具有实际值的Codomain，单目标优化任务的基准算法的固定预算性能。例如，在多个基准问题上的性能聚合是可能的，例如以经验累积分布函数的形式。 Iohanalyzer在其他性能分析包上的主要优点是其高度交互式设计，允许用户指定对其实验最有用的性能测量，范围和粒度，以及不仅分析性能迹线，还可以分析演变动态状态参数。 Iohanalyzer可以直接从主基准平台处理性能数据，包括Coco平台，JOVERRAD，SOS平台和iohExperenter。提供R编程接口，供用户更倾向于对实现的功能进行更精细的控制。

算法选择向导是有效且通用的工具，它们会自动选择有关该问题和可用计算资源的高级信息的优化算法，例如决策变量的数量和类型，最大程度的评估数量，并行评估等。艺术算法选择向导很复杂且难以改进。我们在这项工作中建议使用自动配置方法来通过找到构成它们的算法的更好配置来改善其性能。特别是，我们使用精英迭代赛车（IRACE）来找到特定人工基准测试的CMA配置，这些基准取代了Nevergrad平台提供的NGOPT向导中当前使用的手工制作的CMA配置。我们详细讨论了IRACE的设置，目的是生成在每个基准内的各种问题实例集合中都可以正常工作的配置。我们的方法也提高了NGOPT向导的性能，即使在不属于Irace的一部分的基准套件上。

在这项工作中，我们提出了基于水平的学习群优化器（LLSO）的混合变体，用于解决大规模投资组合优化问题。我们的目标是最大程度地提高夏普比率的改良配方，但要受到基数，框和预算限制的影响。该算法涉及一个投影操作员同时处理这三个约束，并且由于重新平衡的约束，我们隐式控制交易成本。我们还引入了合适的确切惩罚功能来管理营业额约束。此外，我们开发了一个临时突变操作员，以在最高水平的群体中修改候选示例。实验结果使用三个大规模数据集，表明该过程的包含提高了解决方案的准确性。然后，与LLSO算法的其他变体和两种最先进的群体优化器进行了比较，指出了拟议求解器在勘探能力和溶液质量方面的出色性能。最后，我们使用MSCI世界指数的1119个成分的可投资库评估了过去五年中投资组合分配策略的盈利能力。

算法配置（AC）与对参数化算法最合适的参数配置的自动搜索有关。目前，文献中提出了各种各样的交流问题变体和方法。现有评论没有考虑到AC问题的所有衍生物，也没有提供完整的分类计划。为此，我们引入分类法以分别描述配置方法的交流问题和特征。我们回顾了分类法的镜头中现有的AC文献，概述相关的配置方法的设计选择，对比方法和问题变体相互对立，并描述行业中的AC状态。最后，我们的评论为研究人员和从业人员提供了AC领域的未来研究方向。

多目标优化问题的目标在现实世界中通常会看到不同的评估成本。现在，此类问题被称为异质目标（HE-MOPS）的多目标优化问题。然而，到目前为止，只有少数研究来解决HE-MOPS，其中大多数专注于一个快速目标和一个缓慢目标的双向目标问题。在这项工作中，我们旨在应对具有两个以上黑盒和异质目标的He-mops。为此，我们通过利用He-Mops中廉价且昂贵的目标的不同数据集来减轻因评估不同目标而导致的搜索偏见，从而减轻了廉价且昂贵的目标，从而为HE-MOPS开发了多目标贝叶斯进化优化方法。为了充分利用两个不同的培训数据集，一种对所有目标进行评估的解决方案，另一个与仅在快速目标上进行评估的解决方案，构建了两个单独的高斯过程模型。此外，提出了一种新的采集函数，以减轻对快速目标的搜索偏见，从而在收敛与多样性之间达到平衡。我们通过对广泛使用的多/多目标基准问题进行测试来证明该算法的有效性，这些问题被认为是异质昂贵的。

在生物启发群体的成群制中拥挤的环境中，最近出现了SALP群优化（SSO）算法并立即获得了很多动量。灵感来自Salp殖民地的特殊空间排列，在领导者之后的长链中移位，该算法似乎提供了有趣的优化性能。然而，原创作品的特点是一些概念和数学缺陷，影响了对象的所有作品。在本手稿中，我们对SSO进行了一次关键审查，突出了文献中存在的所有问题及其对通过该算法进行的优化过程的负面影响。我们还提出了一个数学上正确的SSO版本，名为“修正的SALP Swarm Optimizer（ASSO）”，该SALP Swarm Optimizer（ASSO）修复了所有讨论的问题。我们在一系列定制的实验上基准测试ASOO的表现，表明它能够实现比原始SSO更好的结果。最后，我们进行了广泛的研究，旨在了解SSO及其变体是否提供与其他美术学相比的优势。实验结果，其中SSO不能优于简单的众所周知的核心学，表明科学界可以安全地放弃SSO。

异构综合学习粒子群优化（HCLPSO）是一种具有增强探索和开发能力的进化算法。与随机序列相比，覆盖搜索空间的低阶段序列（LDS）在覆盖搜索空间方面更均匀。在本文中，研究了利用LDS的良好均匀性来改善HCLPSO。进行数值实验以表明仅通过使用LDS生成初始种群，就不可能有效地提高HCLPSO的搜索能力。但是，如果我们从HCLPSO速度更新公式中正确选择一些随机序列并将其替换为确定性LDS，则可以获得更有效的算法。与原始的HCLPSO在相同的精度要求下相比，使用确定性LDS更新速度的HCLPSO可以显着降低找到最佳解决方案所需的迭代，而不会降低成功率。

信息科学的快速发展引起的“维度诅咒”在处理大数据集时可能会产生负面影响。在本文中，我们提出了Sparrow搜索算法（SSA）的一种变体，称为帐篷L \'evy飞行麻雀搜索算法（TFSSA），并使用它来选择包装模式中最佳的特征子集以进行分类。 SSA是最近提出的算法，尚未系统地应用于特征选择问题。通过CEC2020基准函数进行验证后，TFSSA用于选择最佳功能组合，以最大化分类精度并最大程度地减少所选功能的数量。将拟议的TFSSA与文献中的九种算法进行了比较。 9个评估指标用于正确评估和比较UCI存储库中21个数据集上这些算法的性能。此外，该方法应用于冠状病毒病（COVID-19）数据集，分别获得最佳的平均分类精度和特征选择的平均数量，为93.47％和2.1。实验结果证实了所提出的算法在提高分类准确性和减少与其他基于包装器的算法相比的选定特征数量方面的优势。

大约400年前的国际象棋游戏始于大约400年前的统治图，这引发了对统治图的分析，最初是相对松散的，直到1960年代开始，当时该问题给出了数学描述。这是图理论中最重要的问题之一，也是在多项式时间无法解决的NP完整问题。结果，我们描述了一种新的混合杜鹃搜索技术，以解决这项工作中的MDS问题。杜鹃搜索是一种著名的元神经，其能力探索了巨大的搜索空间，使其对多元化有用。但是，为了提高性能，我们除了遗传跨界操作员外，还将强化技术纳入了建议的方法。在详尽的实验测试中介绍了我们的方法与文献中相应的最新技术的比较。根据获得的结果，建议的算法优于当前的最新状态。

基准套件提供了对进化算法解决问题能力的有用度量，但是组成问题通常太复杂了，无法清洁算法的优势和劣势。在这里，我们介绍了基准套件档案（``进化运行中的选择方案的诊断概述''），以实证分析有关剥削和探索重要方面的选择方案。利用从根本上是攀岩，但我们考虑两种情况：纯剥削，可以独立优化表示形式中的每个位置，并且受到限制的利用，在该位置之间，由于位置之间的相互作用，向上进展更加有限。当优化路径不太清楚时，需要探索；我们认为能够遵循多个独立的爬山途径和跨健身山谷的能力。这些场景的每种组合都会产生独特的适应性景观，有助于表征与给定选择方案相关的进化动力学。我们分析了六个流行的选择方案。锦标赛的选择和截断选择都在剥削指标方面表现出色，但在需要探索时表现不佳；相反，新颖的搜索在探索方面表现出色，但未能利用梯度。在克服欺骗时，健身共享表现良好，但在所有其他诊断方面都很差。非主导的分类是维持由居住在多个Optima居住的个体组成的不同人群的最佳选择，但努力有效利用梯度。词汇酶选择平衡搜索空间探索而不牺牲剥削，通常在诊断方面表现良好。我们的工作证明了诊断对快速建立对选择方案特征的直观理解的价值，然后可以将其用于改进或开发新的选择方法。

本文提出了一种名为Duck Sharm算法（DSA）的群体智能的优化算法。该算法通过寻找鸭子群的食物来源和觅食行为的启发。通过使用十八个基准函数来验证DSA的性能，其中统计（最佳，平均值，标准偏差和平均运行时间）结果与粒子群优化（PSO），Firefly算法（FA ），鸡肉群优化（CSO），灰狼优化器（GWO），正弦余弦算法（SCA）和海洋捕食者算法（MPA）和ArchImedes优化算法（AOA）。此外，使用比较结果的Wilcoxon Rank-Sum测试，Friedman测试和收敛曲线来证明DSA对其他算法的优越性。结果表明，DSA是在收敛速度和勘探开发平衡方面是求解高维优化功能的高性能优化方法。此外，DSA应用于两个约束工程问题的最佳设计（三条桁架问题，以及锯木厂运行问题）。此外，还用于分析所提出的DSA的性能的四个工程约束问题。总体而言，比较结果表明，DSA是一种有前途和非常竞争力的算法，用于解决不同的优化问题。

过去已经表明，与解决多模式问题生成器的解决实例相比，多座丘陵策略与标准遗传算法相比有利。我们扩展了这项工作，并验证遗传算法中多样性保存技术的利用是否改变了比较结果。在两种情况下，我们这样做：（1）​​目标是找到全局最佳距离时，（2）当目标是找到所有Optima时。进行了数学分析，用于多设山丘算法，并通过实证研究进行了经验研究，以求解多模式问题生成器的实例，其中包括山丘策略以及遗传算法的数量，并使用遗传算法进行了元素。尽管小甲基元素改善了遗传算法的性能，但它仍然不如这类问题上的多尽山关闭策略。还提出了一种理想化的细分策略，并认为它的性能应接近任何进化算法在此类问题上可以做到的。

Surrogate algorithms such as Bayesian optimisation are especially designed for black-box optimisation problems with expensive objectives, such as hyperparameter tuning or simulation-based optimisation. In the literature, these algorithms are usually evaluated with synthetic benchmarks which are well established but have no expensive objective, and only on one or two real-life applications which vary wildly between papers. There is a clear lack of standardisation when it comes to benchmarking surrogate algorithms on real-life, expensive, black-box objective functions. This makes it very difficult to draw conclusions on the effect of algorithmic contributions and to give substantial advice on which method to use when. A new benchmark library, EXPObench, provides first steps towards such a standardisation. The library is used to provide an extensive comparison of six different surrogate algorithms on four expensive optimisation problems from different real-life applications. This has led to new insights regarding the relative importance of exploration, the evaluation time of the objective, and the used model. We also provide rules of thumb for which surrogate algorithm to use in which situation. A further contribution is that we make the algorithms and benchmark problem instances publicly available, contributing to more uniform analysis of surrogate algorithms. Most importantly, we include the performance of the six algorithms on all evaluated problem instances. This results in a unique new dataset that lowers the bar for researching new methods as the number of expensive evaluations required for comparison is significantly reduced.

设计优化算法一般表现良好，需要对一系列各种问题进行实验。培训神经网络是一项优化任务，在最近的深度学习成功方面已获得突出。尽管进化算法已用于培训神经网络，但梯度下降变体是迄今为止最常见的选择，其在大规模机器学习任务上的良好表现。在本文中，我们贡献了Cornn（使用神经网络对回归任务进行连续优化），这是一套大型套件，用于基准在神经网络培训问题上进行任何连续的黑盒算法的性能。使用一系列回归问题和神经网络体系结构，可以创建具有不同维度和难度级别的问题实例。我们通过比较了300多个问题实例的三种进化和基于群体的算法的性能，证明了康涅斯套件的使用，显示了算法之间的性能互补性的证据。作为基准，根据基于梯度的方法，基于人群的最佳算法的性能是基准的。 Cornn Suite作为公共Web存储库共享，以促进与现有基准平台的轻松集成。

Benchmarking is a key aspect of research into optimization algorithms, and as such the way in which the most popular benchmark suites are designed implicitly guides some parts of algorithm design. One of these suites is the black-box optimization benchmarking (BBOB) suite of 24 single-objective noiseless functions, which has been a standard for over a decade. Within this problem suite, different instances of a single problem can be created, which is beneficial for testing the stability and invariance of algorithms under transformations. In this paper, we investigate the BBOB instance creation protocol by considering a set of 500 instances for each BBOB problem. Using exploratory landscape analysis, we show that the distribution of landscape features across BBOB instances is highly diverse for a large set of problems. In addition, we run a set of eight algorithms across these 500 instances, and investigate for which cases statistically significant differences in performance occur. We argue that, while the transformations applied in BBOB instances do indeed seem to preserve the high-level properties of the functions, their difference in practice should not be overlooked, particularly when treating the problems as box-constrained instead of unconstrained.

The JPEG standard is widely used in different image processing applications. One of the main components of the JPEG standard is the quantisation table (QT) since it plays a vital role in the image properties such as image quality and file size. In recent years, several efforts based on population-based metaheuristic (PBMH) algorithms have been performed to find the proper QT(s) for a specific image, although they do not take into consideration the user's opinion. Take an android developer as an example, who prefers a small-size image, while the optimisation process results in a high-quality image, leading to a huge file size. Another pitfall of the current works is a lack of comprehensive coverage, meaning that the QT(s) can not provide all possible combinations of file size and quality. Therefore, this paper aims to propose three distinct contributions. First, to include the user's opinion in the compression process, the file size of the output image can be controlled by a user in advance. Second, to tackle the lack of comprehensive coverage, we suggest a novel representation. Our proposed representation can not only provide more comprehensive coverage but also find the proper value for the quality factor for a specific image without any background knowledge. Both changes in representation and objective function are independent of the search strategies and can be used with any type of population-based metaheuristic (PBMH) algorithm. Therefore, as the third contribution, we also provide a comprehensive benchmark on 22 state-of-the-art and recently-introduced PBMH algorithms on our new formulation of JPEG image compression. Our extensive experiments on different benchmark images and in terms of different criteria show that our novel formulation for JPEG image compression can work effectively.

自动化封路计优化（HPO）已经获得了很大的普及，并且是大多数自动化机器学习框架的重要成分。然而，设计HPO算法的过程仍然是一个不系统和手动的过程：确定了现有工作的限制，提出的改进是 - 即使是专家知识的指导 - 仍然是一定任意的。这很少允许对哪些算法分量的驾驶性能进行全面了解，并且承载忽略良好算法设计选择的风险。我们提出了一个原理的方法来实现应用于多倍性HPO（MF-HPO）的自动基准驱动算法设计的原则方法：首先，我们正式化包括的MF-HPO候选的丰富空间，但不限于普通的HPO算法，然后呈现可配置的框架覆盖此空间。要自动和系统地查找最佳候选者，我们遵循通过优化方法，并通过贝叶斯优化搜索算法候选的空间。我们挑战是否必须通过执行消融分析来挑战所发现的设计选择或可以通过更加天真和更简单的设计。我们观察到使用相对简单的配置，在某些方式中比建立的方法更简单，只要某些关键配置参数具有正确的值，就可以很好地执行得很好。