在边缘计算中，抑制数据大小是执行复杂任务（例如自动驾驶）的机器学习模型的挑战，其中计算资源（速度，内存大小和功率）受到限制。通过将其分解为整数和真实矩阵的乘积，已经引入了矩阵数据的有效损耗压缩。但是，它的优化很困难，因为它需要同时优化整数和真实变量。在本文中，我们通过利用最近开发的黑盒优化（BBO）算法来改善这种优化，并具有用于整数变量的ISING求解器。此外，该算法可用于解决分别在真实和整数变量方面线性和非线性的混合成员编程问题。讨论了ISINS求解器的选择（模拟退火，量子退火和模拟淬火）与BBO算法（BOCS，FMQA及其变化）的策略之间的差异，以进一步开发BBO技术。

黑盒优化在许多应用中具有潜力，例如在实验设计中的机器学习和优化中的超参数优化。 ISING机器对二进制优化问题很有用，因为变量可以由Ising机器的单个二进制变量表示。但是，使用ISING机器的常规方法无法处理具有非二进制值的黑框优化问题。为了克服这一限制，我们通过与三种不同的整数编码方法合作，通过使用ISING/退火计算机和分解计算机来提出一种用于整数变量的黑盒优化问题的方法。使用不同的编码方法，使用一个简单的问题来计算最稳定状态下的氢分子能量，以不同的编码方法进行数值评估。提出的方法可以使用任何整数编码方法来计算能量。但是，单次编码对于小尺寸的问题很有用。

二次无约束的二进制优化（QUBO）求解器可以应用于设计最佳结构以避免共振。在经典或量子设备上使用的QUBO算法在某些工业应用中取得了成功。但是，由于难以从原始优化问题转变为QUBO，它们的应用仍受到限制。最近，已经提出了黑盒优化（BBO）方法，可以使用机器学习技术和贝叶斯治疗来解决此问题，以进行组合优化。我们采用了BBO方法来设计印刷电路板以避免共振。该设计问题是为了最大程度地提高固有频率并同时最大程度地减少安装点的数量。固有频率是QUBO公式的瓶颈，在BBO方法中近似于二次模型。我们证明，使用分解机的BBO在计算时间和找到最佳解决方案的成功概率中都表现出良好的性能。我们的结果可以打开Qubo求解器在结构设计中的其他应用的潜力。

优化在离散变量上的高度复杂的成本/能源功能是不同科学学科和行业的许多公开问题的核心。一个主要障碍是在硬实例中的某些变量子集之间的出现，导致临界减慢或集体冻结了已知的随机本地搜索策略。通常需要指数计算工作来解冻这种变量，并探索配置空间的其他看不见的区域。在这里，我们通过开发自适应梯度的策略来介绍一个量子启发的非本球非识别蒙特卡罗（NMC）算法，可以有效地学习成本函数的关键实例的几何特征。该信息随行使用，以构造空间不均匀的热波动，用于以各种长度尺度集体未填充变量，规避昂贵的勘探与开发权衡。我们将算法应用于两个最具挑战性的组合优化问题：随机k可满足（K-SAT）附近计算阶段转换和二次分配问题（QAP）。我们在专业的确定性求解器和通用随机求解器上观察到显着的加速和鲁棒性。特别是，对于90％的随机4-SAT实例，我们发现了最佳专用确定性算法无法访问的解决方案，该算法（SP）具有最强的10％实例的解决方案质量的大小提高。我们还通过最先进的通用随机求解器（APT）显示出在最先进的通用随机求解器（APT）上的时间到溶液的两个数量级改善。

机器学习领域的最新进展打开了高性能计算的新时代。机器学习算法在开发复杂问题的准确和成本效益的替代物中的应用已经引起了科学家的主要关注。尽管具有强大的近似功能，但代理人仍无法为问题产生“精确”解决方案。为了解决此问题，本文利用了最新的ML工具，并提供了线性方程系统的自定义迭代求解器，能够在任何所需的准确性级别求解大规模参数化问题。具体而言，建议的方法包括以下两个步骤。首先，进行了一组减少的模型评估集，并使用相应的解决方案用于建立从问题的参数空间到其解决方案空间的近似映射，并使用深层馈电神经网络和卷积自动编码器。该映射是一种手段，可以以微不足道的计算成本来获得对系统对新查询点的响应的非常准确的初始预测。随后，开发了一种受代数多机方法启发的迭代求解器与适当的正交分解（称为pod-2g）相结合的迭代求解器，该迭代求解器被开发为依次完善对确切系统解决方案的初始预测。在大规模系统的几个数值示例中，证明了POD-2G作为独立求解器或作为预处理梯度方法的预处理，结果表明其优于常规迭代溶液方案。

支持向量回归（SVR）的古典机器学习模型（SVR）广泛用于回归任务，包括天气预报，股票市场和房地产定价。但是，SVR的实际可实现的量子版本仍有待配制。我们设计了基于退火的算法，即模拟和量子古典的混合动力车，用于训练两个SVR模型，并比较他们对Python Scikit-Greats包的SVR实现和基于SVR的最新算法的实证性能面部地标检测（FLD）问题。我们的方法是为训练SVR模型的优化问题推导出二次非判断 - 二进制制定，并使用退火解决这个问题。使用D-Wave的混合求解器，我们构建了一项量子辅助的SVR模型，从而展示了关于地标检测精度的古典模型的略有优势。此外，我们观察到基于退火的SVR模型预测与通过贪婪优化程序训练的SVR模型相比具有较低差异的地标。我们的工作是一个概念验证示例，用于使用小型训练数据集将量化的SVR应用于监督的学习任务。

黑匣子优化（BBO）可用于优化分析形式未知的功能。实现BBO的一种常见方法是学习一个替代模型，该模型近似于目标黑匣子函数，然后可以通过白盒优化方法解决该模型。在本文中，我们介绍了我们的方法盒子，其中替代模型是QUBO矩阵。但是，与以前的最先进方法不同，该矩阵不是完全通过回归训练的，而是主要是通过“好”和“坏”解决方案之间的分类来训练的。这更好地说明了QUBO矩阵的低容量，从而使整体解决方案明显更好。我们测试了针对四个领域的最先进的方法，在所有域中，盒子中的结果表现出明显更好的结果。本文的第二个贡献是解决白框问题的想法，即可以通过黑匣子优化直接将其直接提出为Qubo的问题，以便将Qubos的大小减少到其信息理论的最小值中。实验表明，这大大改善了最大$ K $ -SAT的结果。

我们考虑基于活动的运输模拟器的校准和不确定性分析问题。基于活动的模型（ABM）依靠单个旅行者行为的统计模型来预测大都市地区的高阶旅行模式。输入参数通常是使用最大似然从旅行者调查中估算的。我们开发了一种使用高斯工艺模拟器使用流量流数据校准这些参数的方法。我们的方法扩展了传统的模拟器，以处理运输模拟器的高维和非平稳性。我们介绍了一个深度学习维度降低模型，该模型与高斯工艺模型共同估计以近似模拟器。我们使用几个模拟示例以及校准伊利诺伊州布卢明顿的关键参数来证明方法。

将几何模型拟合到异常值污染的数据非常棘手。许多计算机视觉系统依赖于随机采样启发式方法来解决可靠的拟合，这不能提供最佳保证和误差范围。因此，开发新的方法可以弥合昂贵的精确解决方案和不提供质量保证的快速启发式方法之间的差距。在本文中，我们提出了一种用于稳健拟合的杂化量子古典算法。我们的核心贡献是一种新颖的可靠拟合公式，可以解决一系列整数程序，并使用全局解决方案或误差绑定终止。组合子问题可容纳量子退火器，这有助于有效拧紧结合。虽然我们对量子计算的使用并不能超越可靠拟合的基本棘手性，但通过提供误差界限，我们的算法是对随机启发式方法的实际改进。此外，我们的工作代表了计算机视觉中量子计算的具体应用。我们介绍使用实际量子计算机（D-WAVE优势）和通过仿真获得的结果。源代码：https：//github.com/dadung/hqc-robust-fitting

自动化封路计优化（HPO）已经获得了很大的普及，并且是大多数自动化机器学习框架的重要成分。然而，设计HPO算法的过程仍然是一个不系统和手动的过程：确定了现有工作的限制，提出的改进是 - 即使是专家知识的指导 - 仍然是一定任意的。这很少允许对哪些算法分量的驾驶性能进行全面了解，并且承载忽略良好算法设计选择的风险。我们提出了一个原理的方法来实现应用于多倍性HPO（MF-HPO）的自动基准驱动算法设计的原则方法：首先，我们正式化包括的MF-HPO候选的丰富空间，但不限于普通的HPO算法，然后呈现可配置的框架覆盖此空间。要自动和系统地查找最佳候选者，我们遵循通过优化方法，并通过贝叶斯优化搜索算法候选的空间。我们挑战是否必须通过执行消融分析来挑战所发现的设计选择或可以通过更加天真和更简单的设计。我们观察到使用相对简单的配置，在某些方式中比建立的方法更简单，只要某些关键配置参数具有正确的值，就可以很好地执行得很好。

我们解决了与行业相关的尺度上的机器人轨迹计划问题。我们的端到端解决方案将高度通用的随机键算法与模型堆叠和集成技术集成在一起，以及用于溶液细化的路径重新链接。核心优化模块由偏置的随机基遗传算法组成。通过与问题依赖性和问题相关模块的独特分离，我们通过约束的天然编码实现了有效的问题表示。我们表明，对替代算法范式（例如模拟退火）的概括是直接的。我们为行业规模的数据集提供数值基准结果。发现我们的方法始终超过贪婪的基线结果。为了评估当今量子硬件的功能，我们使用Amazon Braket上的QBSOLV在量子退火硬件上获得的经典方法进行了补充。最后，我们展示了如何将后者集成到我们的较大管道中，从而为问题提供了量子准备的混合解决方案。

大多数机器学习算法由一个或多个超参数配置，必须仔细选择并且通常会影响性能。为避免耗时和不可递销的手动试验和错误过程来查找性能良好的超参数配置，可以采用各种自动超参数优化（HPO）方法，例如，基于监督机器学习的重新采样误差估计。本文介绍了HPO后，本文审查了重要的HPO方法，如网格或随机搜索，进化算法，贝叶斯优化，超带和赛车。它给出了关于进行HPO的重要选择的实用建议，包括HPO算法本身，性能评估，如何将HPO与ML管道，运行时改进和并行化结合起来。这项工作伴随着附录，其中包含关于R和Python的特定软件包的信息，以及用于特定学习算法的信息和推荐的超参数搜索空间。我们还提供笔记本电脑，这些笔记本展示了这项工作的概念作为补充文件。

算法配置（AC）与对参数化算法最合适的参数配置的自动搜索有关。目前，文献中提出了各种各样的交流问题变体和方法。现有评论没有考虑到AC问题的所有衍生物，也没有提供完整的分类计划。为此，我们引入分类法以分别描述配置方法的交流问题和特征。我们回顾了分类法的镜头中现有的AC文献，概述相关的配置方法的设计选择，对比方法和问题变体相互对立，并描述行业中的AC状态。最后，我们的评论为研究人员和从业人员提供了AC领域的未来研究方向。

Surrogate algorithms such as Bayesian optimisation are especially designed for black-box optimisation problems with expensive objectives, such as hyperparameter tuning or simulation-based optimisation. In the literature, these algorithms are usually evaluated with synthetic benchmarks which are well established but have no expensive objective, and only on one or two real-life applications which vary wildly between papers. There is a clear lack of standardisation when it comes to benchmarking surrogate algorithms on real-life, expensive, black-box objective functions. This makes it very difficult to draw conclusions on the effect of algorithmic contributions and to give substantial advice on which method to use when. A new benchmark library, EXPObench, provides first steps towards such a standardisation. The library is used to provide an extensive comparison of six different surrogate algorithms on four expensive optimisation problems from different real-life applications. This has led to new insights regarding the relative importance of exploration, the evaluation time of the objective, and the used model. We also provide rules of thumb for which surrogate algorithm to use in which situation. A further contribution is that we make the algorithms and benchmark problem instances publicly available, contributing to more uniform analysis of surrogate algorithms. Most importantly, we include the performance of the six algorithms on all evaluated problem instances. This results in a unique new dataset that lowers the bar for researching new methods as the number of expensive evaluations required for comparison is significantly reduced.

贝叶斯优化提供了一种优化昂贵黑匣子功能的有效方法。它最近已应用于流体动力学问题。本文研究并在一系列合成测试函数上从经验上比较了常见的贝叶斯优化算法。它研究了采集函数和训练样本数量的选择，采集功能的精确计算以及基于蒙特卡洛的方法以及单点和多点优化。该测试功能被认为涵盖了各种各样的挑战，因此是理想的测试床，以了解贝叶斯优化的性能，并确定贝叶斯优化表现良好和差的一般情况。这些知识可以用于应用程序中，包括流体动力学的知识，这些知识是未知的。这项调查的结果表明，要做出的选择与相对简单的功能不相关，而乐观的采集功能（例如上限限制）应首选更复杂的目标函数。此外，蒙特卡洛方法的结果与分析采集函数的结果相当。在目标函数允许并行评估的情况下，多点方法提供了更快的替代方法，但它可能需要进行更多的客观函数评估。

由于昂贵的挖掘程序，光纤到-UTH（FTTH）网络的扩展会产生高成本。因此，优化规划过程，最大限度地减少地球挖掘工作的成本导致大量节省。在数学上，FTTH网络问题可以被描述为最小的Steiner树问题。尽管在过去的几十年中已经在集中进行了密集地进行了强烈调查了施泰纳的问题，但可以在新的计算范例和新兴方法的帮助下进一步优化。这项工作研究即将到来的技术，例如Quantum退火，模拟退火和自然启发方法，如进化算法或基于粘液模具的优化。此外，我们还调查分区和简化方法。在几个现实生活中评估，我们可以在大多数域上表达传统的广泛使用的基线（NetworkX近似求解器）。先前分区初始图和所呈现的基于粘液模具的方法对于成本有效的近似特别有价值。 Quantum退火似乎很有希望，但受到可用Qubits的数量的限制。

Our goal is to reconstruct tomographic images with few measurements and a low signal-to-noise ratio. In clinical imaging, this helps to improve patient comfort and reduce radiation exposure. As quantum computing advances, we propose to use an adiabatic quantum computer and associated hybrid methods to solve the reconstruction problem. Tomographic reconstruction is an ill-posed inverse problem. We test our reconstruction technique for image size, noise content, and underdetermination of the measured projection data. We then present the reconstructed binary and integer-valued images of up to 32 by 32 pixels. The demonstrated method competes with traditional reconstruction algorithms and is superior in terms of robustness to noise and reconstructions from few projections. We postulate that hybrid quantum computing will soon reach maturity for real applications in tomographic reconstruction. Finally, we point out the current limitations regarding the problem size and interpretability of the algorithm.

Two contrasting algorithmic paradigms for constraint satisfaction problems are successive local explorations of neighboring configurations versus producing new configurations using global information about the problem (e.g. approximating the marginals of the probability distribution which is uniform over satisfying configurations). This paper presents new algorithms for the latter framework, ultimately producing estimates for satisfying configurations using methods from Boolean Fourier analysis. The approach is broadly inspired by the quantum amplitude amplification algorithm in that it maximally increases the amplitude of the approximation function over satisfying configurations given sequential refinements. We demonstrate that satisfying solutions may be retrieved in a process analogous to quantum measurement made efficient by sparsity in the Fourier domain, and present a complete solver construction using this novel approximation. Freedom in the refinement strategy invites further opportunities to design solvers in an evolutionary computing framework. Results demonstrate competitive performance against local solvers for the Boolean satisfiability (SAT) problem, encouraging future work in understanding the connections between Boolean Fourier analysis and constraint satisfaction.

近似组合优化已成为量子计算机最有前途的应用领域之一，特别是近期的应用领域之一。在这项工作中，我们专注于求解最大切割问题的量子近似优化算法（QAOA）。具体而言，我们解决了QAOA中的两个问题，如何选择初始参数，以及如何随后培训参数以找到最佳解决方案。对于前者来说，我们将图形神经网络（GNN）作为QAOA参数的初始化例程，在热启动技术中添加到文献。我们不仅显示了GNN方法概括，而且不仅可以增加图形尺寸，还可以增加图形大小，这是其他热启动技术无法使用的功能。为了培训QAOA，我们测试了几个优化员以获得MaxCut问题。这些包括在文献中提出的量子感知/不可知论者，我们还包括机器学习技术，如加强和元学习。通过纳入这些初始化和优化工具包，我们展示了如何培训QAOA作为端到端可分散的管道。

由于其数据效率，贝叶斯优化已经出现在昂贵的黑盒优化的最前沿。近年来，关于新贝叶斯优化算法及其应用的发展的研究激增。因此，本文试图对贝叶斯优化的最新进展进行全面和更新的调查，并确定有趣的开放问题。我们将贝叶斯优化的现有工作分为九个主要群体，并根据所提出的算法的动机和重点。对于每个类别，我们介绍了替代模型的构建和采集功能的适应的主要进步。最后，我们讨论了开放的问题，并提出了有希望的未来研究方向，尤其是在分布式和联合优化系统中的异质性，隐私保护和公平性方面。